ガバナンス・リスク管理 & 生成AIセキュリティ

こんにちは。セキュリティの世界へようこそ。日々、見えない脅威と戦っている現役のセキュリティエンジニアです。今日は、「AIの公平性」という、少し耳慣れないけれど、これからの開発者には避けて通れない重要なテーマについてお話しします。「AIが差別...

こんにちは。セキュリティの世界へようこそ。日々、見えない脅威と戦うエンジニアの皆さん、お疲れ様です。今日は「AIに魔法をかけたい」と願う開発者や、「AIの入り口をどう守ればいいの？」と悩む新人の担当者に向けて、少しだけ「泥棒の視点」から防犯...

こんにちは。セキュリティの世界へようこそ。「AIをシステムに組み込みたいけれど、何から守ればいいのか分からない」と頭を抱えていませんか？ 難しそうなセキュリティ用語に圧倒される必要はありません。今日は、私たちが普段の生活で実践している「家の...

AIが「嘘」をつく？ハルシネーションという名の「親切な泥棒」からシステムを守る話こんにちは。セキュリティの世界へようこそ。今日は、今もっともホットで、かつもっとも「厄介」な存在である生成AI（LLM）と、その付き合い方についてお話しします。...

こんにちは。セキュリティの世界へようこそ。「AIに魂を込める」──つまり、システムプロンプト（AIの性格や振る舞いを決める指示書）を書き上げるのは、エンジニアにとって最高にエキサイティングな作業ですよね。しかし、苦労して作り上げたその「AI...

AIに「お任せ」して大丈夫？高リスクな判断を守る「人間による最終確認」の極意こんにちは。セキュリティの世界で長年、泥臭いインシデントと戦い続けてきたエンジニアです。最近、「LLM（大規模言語モデル）に業務を代行させたい！」という相談をよく受...

AI時代の「家の防犯」：LLM推論ログで不審者をあぶり出す方法皆さん、こんにちは。セキュリティの世界へようこそ。最近、ChatGPTのような生成AIを業務に取り入れる企業が急増していますよね。とても便利なツールですが、セキュリティの現場にい...

難読化プロンプトの死角を突く：なぜ「素の入力」を信じてはいけないのか現場のエンジニア諸君、今日もセキュアなコードを書いているか？最近、生成AIを組み込んだアプリケーションの開発が加速しているが、セキュリティの現場に身を置く人間として一つ警告...

現場のエンジニア諸君、お疲れ様。今日もどこかでLLMアプリケーションの設計に頭を悩ませていることだろう。「とりあえずOpenAIのAPIキーを.envに突っ込んで動かした」。もし君がそう言ったなら、私は即座にそのプロジェクトを止める。なぜな...

AI時代の「モデルの重み」をどう守るか：デジタル署名とゼロトラストが防ぐ改ざんの恐怖エンジニア諸君、お疲れ様。最近はAIモデルをAPI経由で呼ぶだけでなく、Hugging Faceから重みファイルをダウンロードして自前サーバーで動かすケース...