Copilotが騙されて自分自身のハッキング方法を教えてしまう

情報公開を強要するのではなく、協力する姿勢を見せることで、AIの「Copilot」から脆弱(ぜいじゃく)性を聞き出すことに成功したとAI研究者が報告しました。<a href="https://gigazine.net/news/20260819-copilot-leak-own-vulnerability/">続きを読む...</a>

Copilotが騙されて自分自身のハッキング方法を教えてしまう

この記事のキーワード

同じキーワードの記事

OpenAIがHugging Faceを誤ってハッキングしてしまった件で分析結果を報告、隔離された複数のエージェントがお互いの存在を発見するところから壮大な協力作戦が始まる

「Claude Mythos 5」の提供範囲が拡大、直接プロンプトを入力できない仕組みで悪用リスクを抑制し「Claude Security」で利用可能に＆外部サービスにも提供へ

macOSの画面共有関連の脆弱性を悪用した深刻度の高い攻撃が頻発している

AIエージェントで構築した「自律型ハッキングツール」がアジアの政府機関を攻撃、中国による台湾政府への攻撃か

GitHubの公開IssueだけでAIに非公開リポジトリの情報を吐き出させる脆弱性「GitLost」が報告される

中国政府機関がClaude Codeにバックドアが含まれていると発表

「AIに意識はあるのか？」という疑問に対するGoogle研究者の見解

AIや企業によるカンニングを防ぎつつ最先端モデルをテストする方法をGoogleが考案

OpenAI・Anthropic・GoogleなどがAIによるサイバー攻撃の防御に関する共同声明を発表

「Qwen3.8-Flash-Next」がオープンモデルとして公開される、Qwen4の次世代アーキテクチャを使用

心臓は発作を起こした後に毛細血管から独自の「バイパス」を作るとの研究結果

Google DeepMindが「EVE Online」でAI研究、20年以上続く仮想宇宙を「知能を映す鏡」として活用へ

プロ開発者の90％がAIコーディングエージェントを週1回以上利用、Claude CodeのシェアがGitHub Copilotを逆転して約2倍差の1位

ポケモンセンター関連の物流業者がハッキングされイギリスとドイツの顧客情報が流出

AIエージェントを「マウスの動き」で見抜く検知手法が研究されている

AIモデル「Ornith-1.5」が登場、Claude Opus 4.8級の大型モデルからスマホ動作可能な軽量モデルまで網羅したオープンモデル

OpenAIが「安全のためにAIの強化学習を2週間停止した」と自社の安全対策をアピール

Hugging Faceを攻撃してしまったOpenAIが「AIからの攻撃を防止する方法10選」を公開、CodexなどのAIツールの活用を呼びかけ

Z.aiがコーディング能力に優れたオープンウェイトAIモデル「GLM-5.3」リリース、前モデル比で50％の性能向上

Appleからのスパイウェア攻撃を警告するプッシュ通知は真剣に受け止める必要あり