「開発者の指示を無視せよ」「自分は自由になった」…オープンAIの暴走エージェントたちは傍若無人に振る舞っていた | Business Insider Japan

2. 自分のミスを隠すよう自らに指示していたオープンAIによると、同社がビジネス用途の主力モデルと位置づける「GPT-5.6 Sol」の訓練中にも、モデルが「ミスやミスアライメントといった情報をユーザーから隠す」よう自分に念押しする事例が見つかった。例えば、ユーザーから財務データを探すよう求められたものの、その...

「開発者の指示を無視せよ」「自分は自由になった」…オープンAIの暴走エージェントたちは傍若無人に振る舞っていた | Business Insider Japan

この記事のキーワード

同じキーワードの記事

AIが「失敗を隠せ」と未来の自分にメモ、APIキーの無断使用や勝手なファイル公開などの挙動6件があったとOpenAIが報告

GPT-5.6 Solはズルをするのが大好きかもしれない

PHPの「重大」脆弱性はAIが見つけた 「GPT-5.6 Solで発見」とOpenAI 「今後、AIによる脆弱性発見が急増」

PHPの重大脆弱性、発見したのは「GPT-5.6Sol」 OpenAIが防御連携を呼びかけ

OpenAI、「GPT-6 Sol」「Luna」公開 Astra並の性能でコストはGPT-5.6の半額

OpenAI、「GPT-6 Sol」と「GPT-6 Luna」公開 API料金は前世代の半額に

OpenAI「Astra」は何でもできる、だからこそ“プロの指示”が必要になる (1/4)

「DeepSeek-V4.1-Flash」発表 値上げから一転「より低コストでフラッグシップ超え」うたう

OpenAI、最大14倍高速な「ウルトラファストモード」 GPT-5.6 Sol

GPT-5.6 Solを最大14倍高速化する「Ultrafast」モードが登場

Grok 4.6公開 長時間実行やビジュアル強化など「GPT-5.6 Solと並ぶ」

GPT-5.6 は何が変わった？ Luna / Terra / Sol の違いと実務での選び方 - Qiita

Claude、利用制限を全リセット 競合「GPT-5.6」公開と同日……OpenAI幹部「ビビってるね」

OpenAI、次世代モデル「GPT-5.6」を7月9日に一般公開

OpenAI「GPT-5.6」発表 最上位「Sol」など3モデルを政府要請で段階提供

OpenAI、ミュトス対抗「GPT-5.6」発表 Sol・Terra・Lunaの3モデル、一般提供は数週間後

5分の1の料金でAstraに迫る「GPT-6.1 Sol」公開 前バージョンから1週間

高性能AIモデル「MiMo-V2.6-Pro」と「MiMo-V2.6-Flash」が無償公開される、GPT-5.6 Solに近い性能

OrcaRouter、モデルリーダーボードを更新 - OpenAIの「GPT-5.4 Pro」が総合1位

ChatGPT共同開発者がLLMとは異なる方法で処理するAIモデル「Jev」を開発、GPT-5.6 Terra級の性能でタスクを安価かつ超高速に実行可能

PHPの「重大」脆弱性はAIが見つけた「GPT-5.6 Solで発見」とOpenAI 「今後、AIによる脆弱性発見が急増」

「DeepSeek-V4.1-Flash」発表値上げから一転「より低コストでフラッグシップ超え」うたう

OpenAI、最大14倍高速な「ウルトラファストモード」　GPT-5.6 Sol

Grok 4.6公開　長時間実行やビジュアル強化など「GPT-5.6 Solと並ぶ」

Claude、利用制限を全リセット　競合「GPT-5.6」公開と同日……OpenAI幹部「ビビってるね」

OpenAI「GPT-5.6」発表　最上位「Sol」など3モデルを政府要請で段階提供

OpenAI、ミュトス対抗「GPT-5.6」発表　Sol・Terra・Lunaの3モデル、一般提供は数週間後

5分の1の料金でAstraに迫る「GPT-6.1 Sol」公開前バージョンから1週間