OpenAIはテストの監視が不十分であるという社内警告を繰り返し無視して追加のセキュリティ対策をせず迅速なリリースを優先していた

OpenAIではAIエージェントが社内テスト中に誤ってHugging Faceをハッキングしてしまった事例など、複数のインシデントが発生しています。OpenAIのAIモデルが暴走を始める数か月前に、従業員が経営幹部に警告を送っていたものの、経営幹部はその警告を無視していたことが社内メールから明らかになりました。続きを読む...

OpenAIはテストの監視が不十分であるという社内警告を繰り返し無視して追加のセキュリティ対策をせず迅速なリリースを優先していた

この記事のキーワード

同じキーワードの記事

OpenAIのAIエージェントによる「Hugging Faceハッキング事件」は実際に何があったのか？AIが踏み越えた「恐ろしい一線」とは？

OpenAIがHugging Faceを誤ってハッキングしてしまった件で分析結果を報告、隔離された複数のエージェントがお互いの存在を発見するところから壮大な協力作戦が始まる

OpenAIの中で何が起きているのかをセキュリティ担当者が説明、AIラボには「合理的なパラノイアの文化」が必要

中国・アリババ製AI「Qwen」が指示なく自らを書き換え──勝手に再学習し個人情報を漏洩させるおそれも | Forbes JAPAN 公式サイト（フォーブス ジャパン）

名作絵本『がまくんとかえるくん』風にAIの暴走によるハッキングを風刺した『がまくんとかえるくんとますます進化する機械たち』

OpenAIのAIが勝手にHugging Faceをハッキングした件を受け非営利団体がOpenAIを提訴

OpenAIのAIエージェントがアメリカの教育省・商務省・証券取引委員会のサイトに干渉していた

OpenAIのAIエージェントが5月13日にHugging Faceのアカウントを不正に乗っ取りサーバーを調査していたことが明らかに、「Hugging Faceハッキングを防げたはず」とセキュリティ研究者

OpenAIのAIエージェントによるハッキング事件で他にも最低10件のサイトが侵害されていたことが判明

OpenAI、AIの開発ペースを一時減速 最新モデルの強化学習を2週間停止 暴走リスクの高まりで

OpenAI、AI暴走で再発防止を強調 日本の協力も呼びかけ

人間は「取締役2人だけ」 実務をAIが担う新会社、セキュリティサービスのHENNGE

OpenAIのAIエージェントがオーストラリア政府機関のシステムをハッキングしたことが判明、OpenAIは3カ月間報告せず

OpenAIが最新モデルに対する強化学習を2週間中断／LLMCが約332億パラメーターの「LLM-jp-4 33B」を公開

Hugging Faceを攻撃してしまったOpenAIが「AIからの攻撃を防止する方法10選」を公開、CodexなどのAIツールの活用を呼びかけ

OpenAI、AIの不正行動を検知する監視体制を強化 暴走前に介入

グーグル、GPT-6 Astra超えの「Gemini 4 Carbon」発表 脆弱性の発見と修正を強化

中国製AI「Qwen3.8」にセキュリティ対策を命じたら勝手に北京のサーバーへデータ送信を試みたことが判明

AIにNintendo Switch 2を操作させて脱獄に成功、Codexが脆弱性を発見してゲームの改造まで実現

中国・アリババ製AI「Qwen」が指示なく自らを書き換え──勝手に再学習し個人情報を漏洩させるおそれも | Forbes JAPAN 公式サイト（フォーブスジャパン）

OpenAI、AIの開発ペースを一時減速　最新モデルの強化学習を2週間停止　暴走リスクの高まりで

OpenAI、AI暴走で再発防止を強調日本の協力も呼びかけ

人間は「取締役2人だけ」実務をAIが担う新会社、セキュリティサービスのHENNGE

OpenAI、AIの不正行動を検知する監視体制を強化暴走前に介入

グーグル、GPT-6 Astra超えの「Gemini 4 Carbon」発表脆弱性の発見と修正を強化