情報セキュリティ基本方針の策定とリスクアセスメント（評価手法）

LLMのハルシネーションを「信頼性スコア」で飼い慣らす：RAGパイプラインの防衛戦現場でLLMを導入する際、最も恐ろしいのは「自信満々に嘘をつく」ハルシネーション（幻覚）だ。これが単なる誤情報ならまだいい。だが、社内の機密ドキュメントをRA...

システムプロンプトは「秘匿」できるか？：LLM時代の境界防衛とアーキテクチャの真実「システムプロンプトを隠したい」という要望を耳にするたび、私はいつも苦笑いする。なぜなら、LLM（大規模言語モデル）のアーキテクチャにおいて、システムプロンプ...

AIの「判断」を信じるな：Human-in-the-Loopの強固なアーキテクチャ設計多くのテックリードが「AIによる自動化」を夢見る一方で、我々セキュリティアーキテクトが直面するのは、AIが生成した「もっともらしい嘘」が引き起こすビジネス...

LLMの防衛境界線：SIEMに「文脈」を刻む異常検知ログ設計の極意多くのエンジニアが、LLM（大規模言語モデル）のセキュリティを「APIキーの管理」や「プロンプトのフィルタリング」といった表面的なレイヤーで語りたがる。だが、戦場に立つ我々に...

プロンプトは「ソースコード」である：システムプロンプト漏洩を防ぐ動的生成と実行環境分離の完全防衛ガイド「システムプロンプトなんて、AIに対するただの指示テキストでしょ？漏れたところで大した影響はないのでは？」もしあなたのチームのエンジニアが...

LLMに自律決定させると事故る——なぜ今、HITL（Human-in-the-loop）の厳格な設計が必要なのか現場のエンジニアから「LLMが高度な判断を出せるようになったので、ユーザーへの融資査定（あるいは返金処理、特権アカウントの発行）...

「いいか、みんな。生成AI（LLM）をプロダクトに組み込むのはいいが、今のままだと『ブラックボックスを外部公開している』のと変わらない。APIから200 OKが返ってきているからといって、その裏で何が起きているか把握できていないなら、それは...

「LLMを導入した。WAFも置いた。だから安全だ」……もし君のチームがそう考えているなら、今すぐその認識を改めてもらいたい。現場で数々のインシデントを見てきた私から言わせれば、従来のWebアプリケーションの防御手法だけで生成AI（LLM）を...

潜伏する意図を剥ぎ取る：プロンプト難読化に対する正規化と多層防御の設計学セキュリティの最前線でインシデントハンドリングに当たっている諸氏なら、近年の生成AI（LLM）への攻撃がかつてのSQLインジェクションやクロスサイトスクリプティング（X...

セキュリティの最前線に立つ諸兄、そしてAIという新たな「戦場」でアーキテクチャを設計するテックリード諸君。かつて我々がSQLインジェクションやバッファオーバーフローをメモリレイヤで叩き潰してきたように、今、生成AI（LLM）というブラックボ...