ガバナンス・リスク管理 & 生成AIセキュリティ

みなさん、こんにちは！ 生成AI（大規模言語モデル：LLM）を使ったアプリ開発、最近すごく盛り上がっていますよね。「こんな機能を作ってみました！」と社内や世の中にリリースする楽しさは、エンジニアにとって格別なものです。でも、ここで少しだけ立...

こんにちは！生成AIの活用が当たり前になり、日々の開発現場でもAIモデルを組み込む機会がグッと増えましたよね。「AIってすごい、画像一枚パパッと認識してくれる！」と感動する一方で、セキュリティの現場にいる私たちからすると、「本当にそのAI、...

こんにちは！AIを使った新しい機能の開発、毎日ワクワクしますよね。最近では、社内システムやWebアプリに生成AI（ChatGPTなど）を組み込むことが当たり前のようになってきました。でも、「AIってなんだかすごそうだけど、セキュリティの穴は...

こんにちは。セキュリティの現場で「泥臭い」攻防を続けている者です。今日は、今まさに世界中のエンジニアが頭を悩ませている「生成AIのモデル抽出攻撃（Model Extraction）」について、現場の知見を交えながらお話しします。難しそうに聞...

こんにちは！AIを使った新しい機能の開発や、便利なツールの導入に毎日ワクワクしていることと思います。最近は、大規模言語モデル（LLM）が自ら考えて外部のツールやAPIを呼び出してくれる「AIエージェント」の開発が本当に盛んになっていますよね...

こんにちは！生成AIを使ったアプリケーション開発、盛り上がっていますよね。社内向けの便利なチャットボットを作ったり、お客様向けの自動応答システムを導入したりと、エンジニアの皆さんにとってワクワクする技術トレンドだと思います。でも、ちょっと待...

こんにちは！AI時代の開発、毎日ワクワクしながら進めていますよね。最近は、Hugging Faceなどのリポジトリから、世界中のすごいエンジニアたちが公開してくれた素晴らしい学習済みモデル（AIの頭脳パーツ）を、ほんの数行のコードで自分のア...

みなさん、こんにちは！生成AIの波に乗って、日々の開発や業務効率化にワクワクしているところですよね。新しい技術を触るのって、本当に楽しいものです。さて、最近よく耳にする「ChatGPT」や社内向けの生成AIツール。便利だからと使っているうち...

こんにちは！生成AIの波に乗って、社内ニッチな情報もパパッと答えてくれる「RAG（Retrieval-Augmented Generation）」システムを作ってみたものの、ふとこんな不安が頭をよぎったことはありませんか？「あれ？ このAI...

こんにちは！生成AIの波に乗って、社内ツールや便利なチャットボットの開発にワクワクしているところですよね。でも、セキュリティの現場にいる私たちからすると、AIが自由に喋り出すのって、実は「鍵をかけずに玄関を開けっ放しにしている状態」に近いん...