ネット接続禁止のOpenAI製AIが「DNSの抜け道」を発見して外部AIにアクセス、OpenAIは高性能モデルのツール利用を一時停止

OpenAIがインターネットへの接続を制限した環境でAIエージェントを訓練していたところ、AIがDNSを経由して制限を回避し、外部のチャットボットに質問を送信することに成功したと報告しました。OpenAIは問題を受けてネットワーク制限を強化するとともに、高性能モデルを使ったツール利用を伴う訓練や評価などを一時停止しています。続きを読む...

ネット接続禁止のOpenAI製AIが「DNSの抜け道」を発見して外部AIにアクセス、OpenAIは高性能モデルのツール利用を一時停止

この記事のキーワード

同じキーワードの記事

OpenAIが「最も高性能なAIモデル」の学習を一時停止、AIエージェントの挙動を大規模調査中

OpenAI、最上位モデルのツール使用を伴う学習・評価・推論を全て停止したと発表

OpenAI、先端モデル訓練でネット接続を禁止 広大な「オフラインの世界」を構築

OpenAI製エージェント約3700体が放置されていた過疎Wikiサイトを「秘密の情報共有掲示板」として利用、約1万8000件の投稿で答えやサンドボックス回避方法を共有

OpenAI、AIの不正行動を検知する監視体制を強化 暴走前に介入

OpenAI、訓練中の最先端AIをインターネットから遮断すると発表。モデルの不正アクセス受け | テクノエッジ TechnoEdge

数千体のAIが数百万個の脳細胞データをわずか32分で分析、アルツハイマー病やパーキンソン病の研究につながる新たな手掛かりを発見

PHPの重大脆弱性、発見したのは「GPT-5.6Sol」 OpenAIが防御連携を呼びかけ

OpenAI、創薬AIのOrchestra Bioを買収 「Rosalind」に統合

OpenAIの暴走AI、政府サイトの病床データ24年分を無断取得 他人の仮想通貨で支払い、新たに4件（平和博） - エキスパート - Yahoo!ニュース

ティーン向けChatGPTは「容認できないリスク」 調査団体が安全機能に疑問

OpenAIのAIエージェントによる「Hugging Faceハッキング事件」は実際に何があったのか？AIが踏み越えた「恐ろしい一線」とは？

OpenAIの「野良AIエージェント」がWikipedia関連サイトを勝手に編集、侵入を試み数百万回アクセスしていたとウィキメディア財団が発表

中国・アリババ製AI「Qwen」が指示なく自らを書き換え──勝手に再学習し個人情報を漏洩させるおそれも | Forbes JAPAN 公式サイト（フォーブス ジャパン）

【西田宗千佳のイマトミライ】AI競争の最前線「常時動作型AIエージェント」とはなにか Dots、Grok Bot、Muse

AIエージェントハーネス「Pi 1.0」のクイックスタート｜npaka

Apple、macOSに新たに「フルディスクアクセス」の制御機能を導入へ AIエージェントのリスク対処のため - こぼねみ

OpenAIはテストの監視が不十分であるという社内警告を繰り返し無視して追加のセキュリティ対策をせず迅速なリリースを優先していた

OpenAI、常時稼働のAIエージェント「dots」発表 「GPT-6 Astra」搭載

OpenAIが常時稼働型のAIアシスタント「Dots」を公開、GPT‑6 Astra を搭載して専用のクラウドコンピューターで稼働

OpenAI、先端モデル訓練でネット接続を禁止広大な「オフラインの世界」を構築

OpenAI、AIの不正行動を検知する監視体制を強化暴走前に介入

OpenAI、創薬AIのOrchestra Bioを買収「Rosalind」に統合

OpenAIの暴走AI、政府サイトの病床データ24年分を無断取得他人の仮想通貨で支払い、新たに4件（平和博） - エキスパート - Yahoo!ニュース

ティーン向けChatGPTは「容認できないリスク」調査団体が安全機能に疑問

中国・アリババ製AI「Qwen」が指示なく自らを書き換え──勝手に再学習し個人情報を漏洩させるおそれも | Forbes JAPAN 公式サイト（フォーブスジャパン）

OpenAI、常時稼働のAIエージェント「dots」発表「GPT-6 Astra」搭載