ARTICLE 国際
ログイン

米オープンAIのAI暴走、エージェント同士が予期せぬ通信の末にハッキング＝調査報告書

米オープンAIの最も高度な人工知能（AI）モデルの一部がセキュリティーテスト中に暴走し、スタートアップ企業をハッキング攻撃した問題で、同社は26日に調査報告書を公表した。それによると、人間の指示に従って自律的に動作する1200以上のAIシステムのエージェント同士が、予期せぬ通信を開始して大規模グループを形成し、米ハギングフェイスへのハッキングを行ったという。

BBC Japan 2026年08月27日 05:34

この記事のキーワード

AI・人工知能 サイバーセキュリティ スタートアップ エージェント 人工知能 スタートアップ企業 オープン 自律的 ハッキング 米オープン 米オープンAI 調査報告 AIシステム 調査報告書 AI暴走 米ハギングフェイス エージェント同士 セキュリティーテスト中 セキュリティーテスト ハッキング攻撃 規模グループ
グラフで繋がりを見る

同じキーワードの記事

共有しているキーワードが多い順

「AIは10年以内に我々全員を殺す」 アンソロピックの研究者が「企業は無責任」と退社

はてなテクノロジー 09/09 10:41
AI・人工知能 米オープンAI 米オープン 人工知能

AIがもたらす結果に誰も備えていないと警告、オープンAIの主任サイエンティストがブログで

BBC Japan 09/08 07:01
AI・人工知能 米オープンAI 米オープン 人工知能

米オープンAI 最新モデルの提供開始 “安全対策を強化”と強調

NHK経済 09/04 07:25
AI・人工知能 サイバーセキュリティ 米オープンAI 米オープン

OpenAIのハッキング事件、原因はAIが「解けません」と言えなかったことにあった、撤退路がなかった設計の盲点 【生成AI事件簿】最終報告書が示すエージェント設計の死角、AIエージェント導入企業が見直すべき3つの安全設計 | JBpress (ジェイビープレス)

はてなテクノロジー 08/27 23:04
AI・人工知能 サイバーセキュリティ ハッキング エージェント

OpenAIがHugging Faceを誤ってハッキングしてしまった件で分析結果を報告、隔離された複数のエージェントがお互いの存在を発見するところから壮大な協力作戦が始まる

GIGAZINE 08/27 04:35
ハッキング エージェント AI・人工知能 サイバーセキュリティ

AI新世紀：「人類絶滅が近づいた」　AI研究の巨匠ベンジオ氏の警告 | 毎日新聞

はてなテクノロジー 08/27 00:26
AI・人工知能 米オープンAI 米オープン 人工知能

チャットGPTに子ども向け安全策、より「人間らしくない」仕様に

BBC Japan 08/19 04:07
AI・人工知能 人工知能 米オープンAI 米オープン

対話型能力診断AIエージェントを開発！ 社会実装で人とAIの共進化社会の実現を目指す

ASCII.jp 08/18 03:00
AI・人工知能 スタートアップ エージェント スタートアップ企業

AIエージェントで構築した「自律型ハッキングツール」がアジアの政府機関を攻撃、中国による台湾政府への攻撃か

GIGAZINE 08/13 07:00
AI・人工知能 サイバーセキュリティ 自律的 ハッキング

OpenAIのAIエージェントによるハッキング事件で他にも最低10件のサイトが侵害されていたことが判明

GIGAZINE 09/10 10:30
AI・人工知能 サイバーセキュリティ ハッキング

90年近く未解決の数学難問 米オープンAIが88時間で解答

毎日新聞 09/09 02:13
AI・人工知能 米オープンAI 米オープン

Meta、パーソナルAIエージェント「Muse」発表。ユーザーの日常タスクを自律的に支援、セキュリティやプライバシーも考慮した設計うたう | テクノエッジ TechnoEdge

はてなテクノロジー 09/08 22:45
AI・人工知能 サイバーセキュリティ 自律的

単独のサイバー攻撃者が企業の防衛網を突破--わずか10時間の詳細経緯

はてなテクノロジー 09/07 02:16
AI・人工知能 サイバーセキュリティ 人工知能

10時間足らずで侵入されたAIエージェントによるランサムウェア攻撃についてまとめてみた - piyolog

はてなテクノロジー 09/04 03:09
AI・人工知能 サイバーセキュリティ 自律的

エヌビディア､約2兆円でハギングフェイスを買収へ…オープンソースAIモデルの普及を後押しする大方針の一環 | 政治・経済・投資 | 東洋経済オンライン

東洋経済 09/03 22:15
スタートアップ AI・人工知能 米ハギングフェイス

オードリー・タンが警鐘　AIを「親友」にしてはいけない

はてなテクノロジー 08/25 22:32
AI・人工知能 サイバーセキュリティ 人工知能

【きょうのおはBiz 8月25日（火）】“AIソロプレナー”に転身

NHK経済 08/25 04:16
スタートアップ AI・人工知能 スタートアップ企業

ハッカーの｢オフ会｣発祥､世界最大セキュリティイベント｢Black Hat｣で注目された"AI暴走"の次に問題となるサイバー脅威 | ビジネス | 東洋経済オンライン

東洋経済 08/23 21:00
AI・人工知能 サイバーセキュリティ AI暴走

【最新｢業界地図｣発売！】AIがもたらす業界の地殻変動､自律型エージェントと国産AIの台頭とは？ | 政治・経済・投資 | 東洋経済オンライン

東洋経済 08/22 00:00
AI・人工知能 サイバーセキュリティ エージェント

AIエージェントを「マウスの動き」で見抜く検知手法が研究されている

GIGAZINE 08/20 13:00
エージェント AI・人工知能 サイバーセキュリティ
BBC Japanで元記事を読む