中国のAIモデルが生物兵器の製造方法を表示、セキュリティーテスト中に安全策を突破と AIシステムのセキュリティーテストを行う米マインドガードは今年7月、中国「月之暗面（ムーンショットAI）」のAIモデル「Kimi K2.6」と「K3 Swarm」が、開発者によって設定された安全制限を回避できることを発見。AIモデルは生物兵器の製造方法や暗殺の実行方法など、本来は回避される話題を表示したという。 BBC Japan 2026年10月01日 03:29
米オープンAIのAI暴走、エージェント同士が予期せぬ通信の末にハッキング＝調査報告書 米オープンAIの最も高度な人工知能（AI）モデルの一部がセキュリティーテスト中に暴走し、スタートアップ企業をハッキング攻撃した問題で、同社は26日に調査報告書を公表した。それによると、人間の指示... BBC Japan 08/27 05:34