ガバナンス・リスク管理 & 生成AIセキュリティ 【入門編】 モデルのバイアスと公平性に関するリスクアセスメント – ガバナンス・リスク管理 & 生成AIセキュリティ防御ガイド
こんにちは。セキュリティの世界へようこそ。日々、見えない脅威と戦っている現役のセキュリティエンジニアです。今日は、「AIの公平性」という、少し耳慣れないけれど、これからの開発者には避けて通れない重要なテーマについてお話しします。「AIが差別...
情報セキュリティ基本方針の策定とリスクアセスメント（評価手法）
ガバナンス・リスク管理 & 生成AIセキュリティ ガバナンス・リスク管理 & 生成AIセキュリティ 【入門編】 LLMのAPIエンドポイントに対するWAF設定とシグネチャ – ガバナンス・リスク管理 & 生成AIセキュリティ防御ガイド
こんにちは。セキュリティの世界へようこそ。日々、見えない脅威と戦うエンジニアの皆さん、お疲れ様です。今日は「AIに魔法をかけたい」と願う開発者や、「AIの入り口をどう守ればいいの？」と悩む新人の担当者に向けて、少しだけ「泥棒の視点」から防犯...
ガバナンス・リスク管理 & 生成AIセキュリティ 【入門編】 AIセキュリティのための脅威モデリング手法(STRIDEの適用) – ガバナンス・リスク管理 & 生成AIセキュリティ防御ガイド
こんにちは。セキュリティの世界へようこそ。「AIをシステムに組み込みたいけれど、何から守ればいいのか分からない」と頭を抱えていませんか？ 難しそうなセキュリティ用語に圧倒される必要はありません。今日は、私たちが普段の生活で実践している「家の...
ガバナンス・リスク管理 & 生成AIセキュリティ 【入門編】 LLMのハルシネーションに対する信頼性スコアリング – ガバナンス・リスク管理 & 生成AIセキュリティ防御ガイド
AIが「嘘」をつく？ハルシネーションという名の「親切な泥棒」からシステムを守る話こんにちは。セキュリティの世界へようこそ。今日は、今もっともホットで、かつもっとも「厄介」な存在である生成AI（LLM）と、その付き合い方についてお話しします。...
ガバナンス・リスク管理 & 生成AIセキュリティ 【入門編】 プロンプトの漏洩を防ぐためのシステムプロンプトの難読化と保護 – ガバナンス・リスク管理 & 生成AIセキュリティ防御ガイド
こんにちは。セキュリティの世界へようこそ。「AIに魂を込める」──つまり、システムプロンプト（AIの性格や振る舞いを決める指示書）を書き上げるのは、エンジニアにとって最高にエキサイティングな作業ですよね。しかし、苦労して作り上げたその「AI...
ガバナンス・リスク管理 & 生成AIセキュリティ 【入門編】 AIモデルの出力に対する人間による介入(Human-in-the-loop)の設計 – ガバナンス・リスク管理 & 生成AIセキュリティ防御ガイド
AIに「お任せ」して大丈夫？高リスクな判断を守る「人間による最終確認」の極意こんにちは。セキュリティの世界で長年、泥臭いインシデントと戦い続けてきたエンジニアです。最近、「LLM（大規模言語モデル）に業務を代行させたい！」という相談をよく受...
ガバナンス・リスク管理 & 生成AIセキュリティ 【入門編】 LLMの推論結果に対する異常検知ログの設計 – ガバナンス・リスク管理 & 生成AIセキュリティ防御ガイド
AI時代の「家の防犯」：LLM推論ログで不審者をあぶり出す方法皆さん、こんにちは。セキュリティの世界へようこそ。最近、ChatGPTのような生成AIを業務に取り入れる企業が急増していますよね。とても便利なツールですが、セキュリティの現場にい...
ガバナンス・リスク管理 & 生成AIセキュリティ 【実務・中級編】 プロンプトの難読化に対する防御：正規化と正規表現フィルタ – ガバナンス・リスク管理 & 生成AIセキュリティ防御ガイド
難読化プロンプトの死角を突く：なぜ「素の入力」を信じてはいけないのか現場のエンジニア諸君、今日もセキュアなコードを書いているか？最近、生成AIを組み込んだアプリケーションの開発が加速しているが、セキュリティの現場に身を置く人間として一つ警告...
ガバナンス・リスク管理 & 生成AIセキュリティ 【実務・中級編】 LLMアプリケーションにおける認証・認可のベストプラクティス – ガバナンス・リスク管理 & 生成AIセキュリティ防御ガイド
現場のエンジニア諸君、お疲れ様。今日もどこかでLLMアプリケーションの設計に頭を悩ませていることだろう。「とりあえずOpenAIのAPIキーを.envに突っ込んで動かした」。もし君がそう言ったなら、私は即座にそのプロジェクトを止める。なぜな...
ガバナンス・リスク管理 & 生成AIセキュリティ 【実務・中級編】 モデルの重みに対する攻撃と暗号学的保護 – ガバナンス・リスク管理 & 生成AIセキュリティ防御ガイド
AI時代の「モデルの重み」をどう守るか：デジタル署名とゼロトラストが防ぐ改ざんの恐怖エンジニア諸君、お疲れ様。最近はAIモデルをAPI経由で呼ぶだけでなく、Hugging Faceから重みファイルをダウンロードして自前サーバーで動かすケース...