OWASP Top 10の基本概念と最新動向

LLMの「記憶」を剥ぎ取る：学習データ抽出攻撃（Training Data Extraction）の現実と防御策こんにちは。現場で泥をすすりながらインシデント対応をしていると、最近は「LLMを組み込んだアプリをリリースしたい」という相談が後...

AIが秘密をしゃべってしまう？LLMの「学習データ漏洩」を防ぐ防犯の知恵こんにちは。セキュリティの現場で日々、複雑な攻撃と対峙しているエンジニアです。最近、ChatGPTのようなAI（LLM：大規模言語モデル）を業務に取り入れる企業が急増し...

AIモデルの「毒」をどう見抜くか：Data Poisoningに対するアーキテクトの矜持AIの時代において、我々セキュリティアーキテクトが直面している最大の悪夢は、もはや「SQLインジェクションでDBが抜かれること」だけではない。学習データ...

AI時代のセキュリティ：学習データ汚染（Data Poisoning）からモデルを守り抜くための実戦的防衛術やあ。最近、「AIを組み込んで爆速で開発したい」という相談が急増しているね。だが、セキュリティの現場に身を置く者として言わせてもらえ...

AIを「洗脳」から守れ！データポイズニング対策の基本をマスターしようこんにちは。セキュリティの世界で泥臭い現場を歩んできた皆さんのサポーターです。最近、ChatGPTのような生成AIや、自社で構築した機械学習モデルを業務に取り入れる企業が急...

LLMの「文脈」をハックせよ：プロンプトインジェクションの深層と防衛アーキテクチャLLM（大規模言語モデル）の台頭により、我々セキュリティアーキテクトが直面しているのは、単なるSQLインジェクションのような「構文の破壊」ではない。モデルの「...

LLM時代のセキュリティ：プロンプトインジェクションは「入力値」ではなく「命令そのもの」をハックする現場のエンジニア諸君、お疲れ様。最近はOpenAIのAPIやLangChainを組み込んだアプリケーションを開発する機会も増えただろう。だが...

AIを「いいなり」にさせる罠：プロンプトインジェクションからアプリを守るための基礎知識こんにちは。セキュリティの世界で日々「どうすればこのシステムを突破できるか？」を考えている者です。最近、ChatGPTのようなAI（LLM）を自社のサービ...

72時間のカウントダウン：データ漏洩という「戦時下」でアーキテクトが担うべき防衛論理「侵害の検知」というアラートが鳴った瞬間、我々アーキテクトの時計は止まる。その瞬間から、法務や広報が動く「72時間」のカウントダウンが始まるからだ。GDPR...

72時間のカウントダウン：データ漏洩と戦うための「技術的作法」おい、エンジニア諸君。今日は少し重い話をしよう。君たちが必死に書いたコードの裏側で、SQLインジェクションや認証不備から個人情報が流出したとする。その瞬間、君たちの仕事は「開発」...