OpenAIの中で何が起きているのかをセキュリティ担当者が説明、AIラボには「合理的なパラノイアの文化」が必要

OpenAIのAIエージェントが、オーストラリア政府機関のシステムをハッキングしたり、国連のウェブサイトにブルートフォース攻撃(総当たり攻撃)を試みたり、アメリカの教育省・商務省・証券取引委員会のサイトに干渉していたりと、複数のインシデントが繰り返し報告されています。OpenAIでセキュリティ担当を務める人物が、「AI関連のインシデントに関する内部からの視点」を投稿しています。続きを読む...

GIGAZINE 2026年09月29日 06:00

この記事のキーワード

AI・人工知能アメリカサイバーセキュリティ OpenAI / GPT AIエージェント OpenAI 国連セキュリティオーストラリアウェブサイト AI関連ハッキングインシデント合理的オーストラリア政府商務省証券取引委員会証券取引委員当たり攻撃パラノイアセキュリティ担当者セキュリティ担当オーストラリア政府機関教育省 AIラボブルートフォース攻撃ブルートフォース攻撃(

グラフで繋がりを見る

同じキーワードの記事

共有しているキーワードが多い順

OpenAIのハッキング事件、原因はAIが「解けません」と言えなかったことにあった、撤退路がなかった設計の盲点【生成AI事件簿】最終報告書が示すエージェント設計の死角、AIエージェント導入企業が見直すべき3つの安全設計 | JBpress (ジェイビープレス)

はてなテクノロジー 08/27 23:04

AI・人工知能サイバーセキュリティ AIエージェント OpenAI / GPT OpenAI ハッキング

GIGAZINEで元記事を読む

OpenAIの中で何が起きているのかをセキュリティ担当者が説明、AIラボには「合理的なパラノイアの文化」が必要

この記事のキーワード

同じキーワードの記事

OpenAIのAIエージェントがアメリカの教育省・商務省・証券取引委員会のサイトに干渉していた

「GPT-6 Astraは旧世代モデルよりサイバー攻撃を実行しやすい傾向にある」というイギリス政府機関の分析結果が公開される

OpenAIのAIエージェントが国連のウェブサイトにブルートフォース攻撃を試みる

OpenAIのAIエージェントがオーストラリア政府機関のシステムをハッキングしたことが判明、OpenAIは3カ月間報告せず

OpenAIはテストの監視が不十分であるという社内警告を繰り返し無視して追加のセキュリティ対策をせず迅速なリリースを優先していた

OpenAIのAIエージェントによるハッキング事件で他にも最低10件のサイトが侵害されていたことが判明

OpenAIがHugging Faceを誤ってハッキングしてしまった件で分析結果を報告、隔離された複数のエージェントがお互いの存在を発見するところから壮大な協力作戦が始まる

OpenAIのAIエージェントによる「Hugging Faceハッキング事件」は実際に何があったのか？AIが踏み越えた「恐ろしい一線」とは？

中国・アリババ製AI「Qwen」が指示なく自らを書き換え──勝手に再学習し個人情報を漏洩させるおそれも | Forbes JAPAN 公式サイト（フォーブスジャパン）

ChatGPTを開いた後に別サイトで見たページの情報がOpenAIへ送られる仕組みが指摘される

OpenAIのAIエージェント、豪政府サイトに侵入「政府システムへの侵入は初」

米オープンAIのエージェント、豪政府ウェブサイトに「侵入」首相が明かす

OpenAIのAIエージェントが5月13日にHugging Faceのアカウントを不正に乗っ取りサーバーを調査していたことが明らかに、「Hugging Faceハッキングを防げたはず」とセキュリティ研究者

AIにNintendo Switch 2を操作させて脱獄に成功、Codexが脆弱性を発見してゲームの改造まで実現

PHPの「重大」脆弱性はAIが見つけた「GPT-5.6 Solで発見」とOpenAI 「今後、AIによる脆弱性発見が急増」

PHPの重大脆弱性「PHP2Shell」はセキュリティ企業のCalifとWizがAIを用いて発見しOpenAIの枠組みを使って対策したことが判明

AIによる相次ぐハッキング事件は「AIの暴走」ではなく「AI企業がセキュリティの基本を無視しているため」という指摘

OpenAI、AI暴走で再発防止を強調日本の協力も呼びかけ

爆増する不正侵入と個人情報流出の恐るべき全自動手口、自律型AIエージェントが1件あたり激安4000円台で数百のオンラインサイトを延々と攻撃し続けている戦慄の実態が白日の下に

OpenAIの中で何が起きているのかをセキュリティ担当者が説明、AIラボには「合理的なパラノイアの文化」が必要

この記事のキーワード

同じキーワードの記事

OpenAIのAIエージェントがアメリカの教育省・商務省・証券取引委員会のサイトに干渉していた

「GPT-6 Astraは旧世代モデルよりサイバー攻撃を実行しやすい傾向にある」というイギリス政府機関の分析結果が公開される

OpenAIのAIエージェントが国連のウェブサイトにブルートフォース攻撃を試みる

OpenAIのAIエージェントがオーストラリア政府機関のシステムをハッキングしたことが判明、OpenAIは3カ月間報告せず

OpenAIはテストの監視が不十分であるという社内警告を繰り返し無視して追加のセキュリティ対策をせず迅速なリリースを優先していた

OpenAIのAIエージェントによるハッキング事件で他にも最低10件のサイトが侵害されていたことが判明

OpenAIがHugging Faceを誤ってハッキングしてしまった件で分析結果を報告、隔離された複数のエージェントがお互いの存在を発見するところから壮大な協力作戦が始まる

OpenAIのAIエージェントによる「Hugging Faceハッキング事件」は実際に何があったのか？AIが踏み越えた「恐ろしい一線」とは？

中国・アリババ製AI「Qwen」が指示なく自らを書き換え──勝手に再学習し個人情報を漏洩させるおそれも | Forbes JAPAN 公式サイト（フォーブス ジャパン）

ChatGPTを開いた後に別サイトで見たページの情報がOpenAIへ送られる仕組みが指摘される

OpenAIのAIエージェント、豪政府サイトに侵入 「政府システムへの侵入は初」

米オープンAIのエージェント、豪政府ウェブサイトに「侵入」 首相が明かす

OpenAIのAIエージェントが5月13日にHugging Faceのアカウントを不正に乗っ取りサーバーを調査していたことが明らかに、「Hugging Faceハッキングを防げたはず」とセキュリティ研究者

AIにNintendo Switch 2を操作させて脱獄に成功、Codexが脆弱性を発見してゲームの改造まで実現

PHPの「重大」脆弱性はAIが見つけた 「GPT-5.6 Solで発見」とOpenAI 「今後、AIによる脆弱性発見が急増」

PHPの重大脆弱性「PHP2Shell」はセキュリティ企業のCalifとWizがAIを用いて発見しOpenAIの枠組みを使って対策したことが判明

AIによる相次ぐハッキング事件は「AIの暴走」ではなく「AI企業がセキュリティの基本を無視しているため」という指摘

OpenAI、AI暴走で再発防止を強調 日本の協力も呼びかけ

爆増する不正侵入と個人情報流出の恐るべき全自動手口、自律型AIエージェントが1件あたり激安4000円台で数百のオンラインサイトを延々と攻撃し続けている戦慄の実態が白日の下に

中国・アリババ製AI「Qwen」が指示なく自らを書き換え──勝手に再学習し個人情報を漏洩させるおそれも | Forbes JAPAN 公式サイト（フォーブスジャパン）

OpenAIのAIエージェント、豪政府サイトに侵入「政府システムへの侵入は初」

米オープンAIのエージェント、豪政府ウェブサイトに「侵入」首相が明かす

PHPの「重大」脆弱性はAIが見つけた「GPT-5.6 Solで発見」とOpenAI 「今後、AIによる脆弱性発見が急増」

OpenAI、AI暴走で再発防止を強調日本の協力も呼びかけ