情報セキュリティ基本方針の策定とリスクアセスメント(評価手法)

スポンサーリンク
ガバナンス・リスク管理 & 生成AIセキュリティ

【入門編】 LLMアプリケーションにおける認証・認可のベストプラクティス – ガバナンス・リスク管理 & 生成AIセキュリティ防御ガイド

こんにちは!セキュリティの世界へようこそ。私は長年、国内外でサイバー攻撃の最前線に立ち、システムの急所を守り続けてきたホワイトハッカーです。最近は「生成AIを使って新しいサービスを作りたい!」というワクワクする声をよく耳にします。しかし、A...
ガバナンス・リスク管理 & 生成AIセキュリティ

【入門編】 モデルの重みに対する攻撃と暗号学的保護 – ガバナンス・リスク管理 & 生成AIセキュリティ防御ガイド

こんにちは!国内外のサイバー攻撃の最前線で戦いながら、セキュリティのバイブルを執筆している、最高セキュリティ責任者の「白(ハク)」です。最近はどこに行っても「AI」「生成AI」という言葉を耳にしますよね。開発者の皆さんも、モデルを自作したり...
ガバナンス・リスク管理 & 生成AIセキュリティ

【入門編】 サプライチェーン攻撃:悪意あるプラグインと拡張機能の特定 – ガバナンス・リスク管理 & 生成AIセキュリティ防御ガイド

こんにちは!セキュリティバイブルの主筆を務めています。普段は企業の最高セキュリティ責任者(CISO)として、日々サイバー空間の「泥棒」たちと知恵比べをしていますが、今日は少し肩の力を抜いて、これからセキュリティを学ぶ皆さんに大切なお話をさせ...
ガバナンス・リスク管理 & 生成AIセキュリティ

【入門編】 機密情報の漏洩を防ぐためのPIIマスキングとガードレール – ガバナンス・リスク管理 & 生成AIセキュリティ防御ガイド

生成AI時代の羅針盤:あなたの「個人情報」、AIに覗かれないための秘密の扉こんにちは!サイバーセキュリティの世界へようこそ。このブログでは、皆さんが日々の業務で触れるかもしれない、ちょっと複雑なセキュリティの話題を、できるだけ分かりやすく、...
ガバナンス・リスク管理 & 生成AIセキュリティ

【入門編】 モデル拒否サービス(DoS)攻撃の仕組みとレート制限の実装 – ガバナンス・リスク管理 & 生成AIセキュリティ防御ガイド

生成AIを狙う「モデルDoS攻撃」とは? 高コストなAIを泥棒から守るための鍵とレート制限の秘密皆さん、こんにちは!サイバーセキュリティの世界へようこそ。今日は、最近話題の生成AI、特にChatGPTのような大規模言語モデル(LLM)を狙う...
ガバナンス・リスク管理 & 生成AIセキュリティ

【入門編】 トレーニングデータ汚染(Poisoning)の検知とデータセットの完全性 – ガバナンス・リスク管理 & 生成AIセキュリティ防御ガイド

生成AI時代に潜む「毒されたデータ」の恐怖:新人担当者でもわかる、AIの「お腹」を守る方法皆さん、こんにちは!サイバーセキュリティの世界へようこそ。今回は、最近話題の生成AI、特にその「学習データ」にまつわる、ちょっと怖いけど、でも知ってお...
ガバナンス・リスク管理 & 生成AIセキュリティ

【実務・中級編】 Insecure Output Handlingに対する出力バリデーションの実装 – ガバナンス・リスク管理 & 生成AIセキュリティ防御ガイド

皆さん、こんにちは。最高セキュリティ責任者の〇〇です。生成AI、特に大規模言語モデル(LLM)の目覚ましい進化は、開発の現場に革命をもたらしています。しかし、その裏側には、これまでとは異なる、あるいは見落とされがちな新たなセキュリティリスク...
ガバナンス・リスク管理 & 生成AIセキュリティ

【実務・中級編】 間接的プロンプトインジェクションの脅威とWebコンテンツの隔離 – ガバナンス・リスク管理 & 生成AIセキュリティ防御ガイド

やあ、みんな。今日も一日お疲れ様。最近、生成AIの話題で持ちきりだが、みんなのプロジェクトでも活用を検討したり、もう導入しているところも少なくないだろう。AIがもたらす革新は疑う余地もないが、その裏に潜む新たな脅威を見過ごすわけにはいかない...
ガバナンス・リスク管理 & 生成AIセキュリティ

【実務・中級編】 LLMにおける直接的プロンプトインジェクションの攻撃シーケンスと防御 – ガバナンス・リスク管理 & 生成AIセキュリティ防御ガイド

こんにちは。私たちのチームへようこそ。今日もシステムのセキュリティを担保するためにコードを書いてくれてありがとう。最近、社内でも「LLM(大規模言語モデル)を組み込んだWebアプリケーション」のプロトタイプや実サービス化の企画が急増している...
ガバナンス・リスク管理 & 生成AIセキュリティ

【実務・中級編】 AIガバナンスの有効性評価と継続的改善(PDCA) – ガバナンス・リスク管理 & 生成AIセキュリティ防御ガイド

お疲れ様!セキュリティチーフの私から、今日は少し耳の痛い、しかし君たちが開発・運用するシステムを本気で守るために避けては通れない「AIガバナンス」のリアルな話をしよう。世の中の「AIセキュリティガイドライン」や「ガバナンスフレームワーク」の...
スポンサーリンク