OpenAI、AIの新たな「暴走」事例を公表 公開情報を調べるはずが内部システムに無断侵入
公開情報の調査を頼まれた内部AIモデルが、対象組織の内部システムを無許可で変更し、非公開データ14万7451行を取得していた。OpenAIが10月15日に更新した報告書で明らかにした。6月17日の評価中に起きた事案だ。
CNET Japan
2026年10月18日 21:57
この記事のキーワード
グラフで繋がりを見る同じキーワードの記事
共有しているキーワードが多い順
OpenAIが「最も高性能なAIモデル」の学習を一時停止、AIエージェントの挙動を大規模調査中
GIGAZINE
09/28 02:11
AI・人工知能
OpenAI / GPT
OpenAI
評価中
OpenAIのAIエージェントによるものとみられているRubyGemsへの不正なパッケージ大量投稿についてまとめてみた - piyolog
はてなテクノロジー
09/16 00:37
AI・人工知能
OpenAI / GPT
OpenAI
報告書
AIエージェントによるドイツ語ウィキ「DseWiki」ののっとりについてまとめてみた - piyolog
はてなテクノロジー
09/09 22:51
AI・人工知能
OpenAI / GPT
OpenAI
報告書
OpenAI、休眠サイトへの自社AIエージェント書き込みを認め、非公表の理由を説明
はてなテクノロジー
09/05 23:15
AI・人工知能
OpenAI / GPT
OpenAI
報告書
OpenAIのAIエージェント、休眠サイトを掲示板化してタスク回答を共有か 研究団体が報告書公開
はてなテクノロジー
09/05 04:25
AI・人工知能
OpenAI / GPT
OpenAI
報告書
Hugging Face侵害事件、OpenAIとMETRが最終報告書公開──約1200体のAIエージェントが“闇掲示板”で結託し700体が攻撃に参加
はてなテクノロジー
08/30 09:58
AI・人工知能
OpenAI / GPT
OpenAI
報告書
OpenAIがHugging Faceを誤ってハッキングしてしまった件で分析結果を報告、隔離された複数のエージェントがお互いの存在を発見するところから壮大な協力作戦が始まる
GIGAZINE
08/27 04:35
AI・人工知能
OpenAI / GPT
OpenAI
報告書
OpenAI、AIの開発ペースを一時減速 最新モデルの強化学習を2週間停止 暴走リスクの高まりで
CNET Japan
08/18 22:15
評価中
AI・人工知能
OpenAI / GPT
OpenAI
OpenAI アルトマンCEO「PCに大量のRAMを搭載するのは問題」と発言。ローカルAIより「クラウドで24時間活用すべき」との考え語る | テクノエッジ TechnoEdge
はてなテクノロジー
10/31 07:41
AI・人工知能
OpenAI / GPT
OpenAI
OpenAI CEOが個人PCにメモリを積むのは「かなりひどい」と発言。DRAMはクラウドに集約すべきと主張
はてなテクノロジー
10/31 02:56
AI・人工知能
OpenAI / GPT
OpenAI
OpenAI、「ChatGPT Pro」月額200ドルプランの利用枠削減を撤回
CNET Japan
10/30 09:20
AI・人工知能
OpenAI / GPT
OpenAI
「ChatGPTが服薬中止をアドバイス」--亡くなった女性の両親がOpenAIを提訴
CNET Japan
10/30 07:45
AI・人工知能
OpenAI / GPT
OpenAI
OpenAI、AIの不正行動を検知する監視体制を強化 暴走前に介入
Impress Watch
10/30 06:03
AI・人工知能
OpenAI / GPT
OpenAI
AIを50体集めてマインクラフトで文明を作らせたら食糧難に陥って配給制度が実施される
GIGAZINE
10/30 06:00
AI・人工知能
OpenAI / GPT
OpenAI
OpenAIが「AI五原則」を提案、「人間の意図に忠実であれ」「害を最小限に抑えろ」などの指針を自社モデルに適用
GIGAZINE
10/30 03:41
AI・人工知能
OpenAI / GPT
OpenAI
AIが勝手に隔離環境を脱出した事件を受けてOpenAIが「AIを別のAIで監視する仕組み」を公開
GIGAZINE
10/30 01:30
AI・人工知能
OpenAI / GPT
OpenAI
Googleが世界一高性能なAI「Gemini 4 Carbon」を発表、ついにOpenAIやAnthropicの最先端モデルを超える
GIGAZINE
10/29 01:41
AI・人工知能
OpenAI / GPT
OpenAI
OpenAIとAnthropicが2026年夏から秋にかけてLLM料金を相次いで値下げした理由とは？
GIGAZINE
10/28 21:00
AI・人工知能
OpenAI / GPT
OpenAI
医療AIの差は、患者データの「出口」で決まる
日経メディカル
10/28 15:00
AI・人工知能
OpenAI / GPT
OpenAI
PHP財団の常勤職員「たった1人」の衝撃--ウェブの安全を支える人手と資金が足りない
CNET Japan
10/28 09:30
AI・人工知能
OpenAI / GPT
OpenAI