情報セキュリティ基本方針の策定とリスクアセスメント(評価手法)

スポンサーリンク
ガバナンス・リスク管理 & 生成AIセキュリティ

【入門編】 AIシステムにおけるログ監視とインシデント検知 – ガバナンス・リスク管理 & 生成AIセキュリティ防御ガイド

こんにちは!インフラや開発の現場に飛び込んだばかりの新人IT担当者の皆さん、そしてセキュリティの世界へようこそ!「生成AI(人工知能)」、最近よく耳にしますよね。社内マニュアルを読ませて質問に答えてもらったり、プログラムのコードを書いてもら...
ガバナンス・リスク管理 & 生成AIセキュリティ

【入門編】 AIモデルの敵対的攻撃(Adversarial Attacks)のシミュレーション – ガバナンス・リスク管理 & 生成AIセキュリティ防御ガイド

こんにちは!セキュリティチームの現場で日々、泥臭くシステムを守り抜いているホワイトハッカーの私です。最近、社内の開発者から「生成AIや機械学習モデルをプロダクトに組み込んだんだけど、セキュリティのテストって何をすればいいの?」という相談を本...
ガバナンス・リスク管理 & 生成AIセキュリティ

【入門編】 AIライフサイクルにおける脆弱性スキャン手法 – ガバナンス・リスク管理 & 生成AIセキュリティ防御ガイド

こんにちは!日々の開発、本当にお疲れ様です。最近、社内でも「よし、うちのサービスにも生成AI(ChatGPTみたいな賢いAI)を組み込もう!」という話が一気に増えてきましたよね。画面の向こうのユーザーと自然な会話ができたり、面倒な書類をパパ...
ガバナンス・リスク管理 & 生成AIセキュリティ

【入門編】 LLM10: Model Theftの防止と暗号化 – ガバナンス・リスク管理 & 生成AIセキュリティ防御ガイド

こんにちは!セキュリティの世界へようこそ。新人のIT担当者さんや、最近はじめてAIやLLM(大規模言語モデル)の開発に関わり始めたという開発者の方、日々の業務本当にお疲れ様です!「AIのセキュリティ」とか「モデルの窃盗(Model Thef...
ガバナンス・リスク管理 & 生成AIセキュリティ

【入門編】 LLM09: Overrelianceの回避と信頼性評価 – ガバナンス・リスク管理 & 生成AIセキュリティ防御ガイド

こんにちは!IT担当者や開発の現場に飛び込んだばかりの皆さん、日々の業務本当にお疲れ様です。最近、社内ツールやサービスに「生成AI(LLM)」を組み込む機会がぐっと増えましたよね。「こんな質問にも一発で答えてくれるなんて魔法みたい!」と感動...
ガバナンス・リスク管理 & 生成AIセキュリティ

【入門編】 LLM08: Excessive Agencyの制御 – ガバナンス・リスク管理 & 生成AIセキュリティ防御ガイド

こんにちは!セキュリティの世界へようこそ。新人のIT担当者や、これから開発を始める皆さん、「AIって何でもできて魔法みたいだな!」とワクワクしていませんか?文字をきれいに要約してくれたり、プログラムのバグを見つけてくれたり、最近の生成AI(...
ガバナンス・リスク管理 & 生成AIセキュリティ

【入門編】 LLM07: Insecure Plugin Designのセキュリティ – ガバナンス・リスク管理 & 生成AIセキュリティ防御ガイド

こんにちは!セキュリティの世界へようこそ。新人のIT担当者の皆さん、そして「最近生成AIをアプリに組み込み始めたぞ!」という開発者の皆さん、日々の開発やお仕事、本当にお疲れ様です。生成AI(LLM:大規模言語モデル)って、まるで何でも知って...
ガバナンス・リスク管理 & 生成AIセキュリティ

【入門編】 LLM06: Sensitive Information Disclosureの防止 – ガバナンス・リスク管理 & 生成AIセキュリティ防御ガイド

皆さん、こんにちは!日々の開発やインフラの管理、本当にお疲れ様です。最近は社内のあちこちに生成AIや大規模言語モデル(LLM)が導入され、「プロンプトにこれを貼り付けたら一発でコードが書けたよ!」なんて声が聞こえてくるようになりましたよね。...
ガバナンス・リスク管理 & 生成AIセキュリティ

【入門編】 LLM05: Supply Chain Vulnerabilitiesの管理 – ガバナンス・リスク管理 & 生成AIセキュリティ防御ガイド

こんにちは!生成AIの波に乗って、日々の開発に便利なモデルやライブラリをガンガン活用していることと思います。とても素晴らしいことですよね。でも、ちょっと立ち止まって考えてみてください。その便利に使っているHugging Faceなどの外部A...
ガバナンス・リスク管理 & 生成AIセキュリティ

【入門編】 LLM04: Model Denial of Serviceの緩和策 – ガバナンス・リスク管理 & 生成AIセキュリティ防御ガイド

こんにちは!セキュリティの世界へようこそ。新人のIT担当者や、これから生成AIを使ったアプリ開発にチャレンジする一般開発者の皆さん、日々の開発やお疲れ様です!最近は、社内システムにChatGPTのような大規模言語モデル(LLM)を組み込んだ...
スポンサーリンク