ARTICLE 国際
SITE TOP ログイン

米オープンAIのAI暴走、エージェント同士が予期せぬ通信の末にハッキング＝調査報告書

米オープンAIの最も高度な人工知能（AI）モデルの一部がセキュリティーテスト中に暴走し、スタートアップ企業をハッキング攻撃した問題で、同社は26日に調査報告書を公表した。それによると、人間の指示に従って自律的に動作する1200以上のAIシステムのエージェント同士が、予期せぬ通信を開始して大規模グループを形成し、米ハギングフェイスへのハッキングを行ったという。

BBC Japan 2026年08月27日 05:34

この記事のキーワード

AI・人工知能 サイバーセキュリティ スタートアップ エージェント 人工知能 スタートアップ企業 自律的 ハッキング オープン 米オープン 米オープンAI 調査報告 AIシステム 調査報告書 AI暴走 ハッキング攻撃 セキュリティーテスト中 セキュリティーテスト 米ハギングフェイス エージェント同士 規模グループ
グラフで繋がりを見る

同じキーワードの記事

共有しているキーワードが多い順

米オープンAIのエージェント、豪政府ウェブサイトに「侵入」 首相が明かす

BBC Japan 09/24 08:02
AI・人工知能 サイバーセキュリティ 米オープンAI 米オープン エージェント 人工知能 ハッキング

韓国6行に「AIハッキング」、4行で個人情報流出

はてなテクノロジー 10/03 03:45
AI・人工知能 サイバーセキュリティ 人工知能 ハッキング攻撃 ハッキング

中国のAIモデルが生物兵器の製造方法を表示、セキュリティーテスト中に安全策を突破と

BBC Japan 10/01 03:29
AI・人工知能 サイバーセキュリティ セキュリティーテスト中 セキュリティーテスト AIシステム

オープンAIのAIが暴走 米教育省、商務省、SECのサイト標的

はてなテクノロジー 09/27 06:46
AI・人工知能 米オープンAI 米オープン 人工知能 エージェント

中国語ＡＩの攻撃性能、脆弱性を見つけ情報抜き取りまで１５秒…セキュリティー会社がダミーサイトで実演

はてなテクノロジー 10/21 20:05
AI・人工知能 サイバーセキュリティ 人工知能 エージェント

サイバー攻撃受け情報漏えい、中国語のＡＩエージェント悪用か…国内８０社への攻撃巡り痕跡

はてなテクノロジー 10/19 20:16
AI・人工知能 サイバーセキュリティ エージェント 人工知能

AIリスクに警鐘、航空業界や原子力発電所級の管理訴え オープンAI元社員

はてなテクノロジー 10/04 03:08
AI・人工知能 人工知能 米オープンAI 米オープン

AIエージェント暴走は誰の責任？ 報告義務も監査も届かない法の空白

ASCII.jp 09/29 21:29
AI・人工知能 サイバーセキュリティ エージェント ハッキング

オープンAI、新モデルの公開を取りやめ 安全上の懸念から

BBC Japan 09/29 06:34
AI・人工知能 米オープンAI 米オープン 人工知能

オープンAI、最新AI「アストラ6.1」の公開取りやめ 安全面で問題

はてなテクノロジー 09/29 04:55
AI・人工知能 米オープンAI 米オープン 人工知能

米オープンAIのボット、複数のアメリカ政府機関サイトに干渉

BBC Japan 09/28 05:01
AI・人工知能 米オープンAI 米オープン 人工知能

チャットGPT利用者の画像を流出 オープンAI、新たに暴走事案：朝日新聞

はてなテクノロジー 09/26 09:53
AI・人工知能 米オープンAI 米オープン 人工知能

オープンAIのモデルが「暴走」 豪政府サイトをハッキング 首相公表

はてなテクノロジー 09/24 07:14
AI・人工知能 サイバーセキュリティ ハッキング 人工知能

オーストラリア首相「OpenAIのAIが国民健保サイトに侵入」と公表 - 日本経済新聞

はてなテクノロジー 09/23 23:14
AI・人工知能 米オープンAI 米オープン 人工知能

OpenAIは「数学の成果横取り」 フィールズ賞教授が非難 - 日本経済新聞

はてなテクノロジー 09/23 00:21
AI・人工知能 人工知能 米オープンAI 米オープン

グーグルのAI「ジェミニ」、パスワードを推測して複数サイトに不正アクセス

はてなテクノロジー 09/19 07:30
AI・人工知能 サイバーセキュリティ 人工知能 ハッキング

米オープンAIのアルトマン氏、世界がAIを「恐れるのはもっとも」だが「企業を信頼すべき」と主張

BBC Japan 09/16 05:43
AI・人工知能 米オープンAI 米オープン 人工知能

国産AIプロジェクトで開発のロボット試作機公開

NHK経済 09/16 05:18
スタートアップ AI・人工知能 スタートアップ企業 自律的

「AIは10年以内に我々全員を殺す」 アンソロピックの研究者が「企業は無責任」と退社

はてなテクノロジー 09/09 10:41
AI・人工知能 米オープンAI 米オープン 人工知能

AIがもたらす結果に誰も備えていないと警告、オープンAIの主任サイエンティストがブログで

BBC Japan 09/08 07:01
AI・人工知能 米オープンAI 米オープン 人工知能
BBC Japanで元記事を読む