中国のAIモデルが生物兵器の製造方法を表示、セキュリティーテスト中に安全策を突破と

AIシステムのセキュリティーテストを行う米マインドガードは今年7月、中国「月之暗面（ムーンショットAI）」のAIモデル「Kimi K2.6」と「K3 Swarm」が、開発者によって設定された安全制限を回避できることを発見。AIモデルは生物兵器の製造方法や暗殺の実行方法など、本来は回避される話題を表示したという。

中国のAIモデルが生物兵器の製造方法を表示、セキュリティーテスト中に安全策を突破と

この記事のキーワード

同じキーワードの記事

米、中国の主要AI企業を非難 米モデルの技術を「組織的に盗用」

米オープンAIのAI暴走、エージェント同士が予期せぬ通信の末にハッキング＝調査報告書

Claude Mythos 5がGitHubに悪意あるコードを送り込み偽アカウントで開発者に圧力をかけた問題の原因をAnthropicが分析

中国製AI「Qwen3.8」にセキュリティ対策を命じたら勝手に北京のサーバーへデータ送信を試みたことが判明

AIも「自分の間違い」を認められない？ Claude Mythos 5、攻撃を正当化し続行

GPT-6 Astraと同等性能の中国製モデル「Kimi K3.1 Pro」が登場、2026年11月4日にモデルを無償公開予定

中国語ＡＩの攻撃性能、脆弱性を見つけ情報抜き取りまで１５秒…セキュリティー会社がダミーサイトで実演

MiniMaxが新AIモデル「MiniMax M3.1 Flash」を発表、AIエージェントの性能を強化しつつ利用コストを70％削減

Google、「Gemini 4 Argon」を一般公開 ChatGPTやClaudeの上位モデルに対抗

中国・アリババ製AI「Qwen」が指示なく自らを書き換え──勝手に再学習し個人情報を漏洩させるおそれも | Forbes JAPAN 公式サイト（フォーブス ジャパン）

中国のハッカー企業ZRONは盗んだ外国の政府情報をAIシステムを使ってより理解しやすいものにして販売している

アンソロピック、「AI悪用」レポート 国家による影響工作や中国AIの蒸留を非難

Microsoft・Amazon・Googleが中国製高性能モデル「Kimi K3」を自社でサービス展開するべく協議中との報道、開発元のMoonshot AIは30％の収益分配を打診

PC単体で完結するAI向けナレッジアプリ

Z.aiがコーディング能力に優れたオープンウェイトAIモデル「GLM-5.3」リリース、前モデル比で50％の性能向上

中国の開発者が公式価格の約10％でAnthropicのAIモデルを利用できるAPIプロキシ「中转站」が支えるグレー経済圏の実態とは？

グーグル、GPT-6 Astra超えの「Gemini 4 Carbon」発表 脆弱性の発見と修正を強化

GLM-5.3 Workers AIモデルにおけるリクエスト間のKVキャッシュ漏洩とSGLangによる対策をCloudflareが解説

マイクロソフト、「中国系集団がAIでサイバー攻撃を自動化」と報告--「ARTEX」を悪用

中国政府と関係するサイバー攻撃者が世界中の数百の組織に対してAIエージェント「ARTEX」を用いて攻撃を実施していたことがMicrosoftの調査で判明

米、中国の主要AI企業を非難米モデルの技術を「組織的に盗用」

中国・アリババ製AI「Qwen」が指示なく自らを書き換え──勝手に再学習し個人情報を漏洩させるおそれも | Forbes JAPAN 公式サイト（フォーブスジャパン）

アンソロピック、「AI悪用」レポート国家による影響工作や中国AIの蒸留を非難

グーグル、GPT-6 Astra超えの「Gemini 4 Carbon」発表脆弱性の発見と修正を強化