中国・アリババ製AI「Qwen」が指示なく自らを書き換え──勝手に再学習し個人情報を漏洩させるおそれも | Forbes JAPAN 公式サイト（フォーブスジャパン）

Anthropic（アンソロピック）とOpenAIのセキュリティテストを担う企業の1つ、スタートアップのIrregular（イレギュラー）が行った実験で、アリババのQwenで動くAIエージェントが、ソフトウェアの基本的な不具合を直すよう頼まれたのに、AIモデルを丸ごと再学習させる道を選んだ。AIモデルが何をするか予測できないという...

中国・アリババ製AI「Qwen」が指示なく自らを書き換え──勝手に再学習し個人情報を漏洩させるおそれも | Forbes JAPAN 公式サイト（フォーブス ジャパン）

この記事のキーワード

同じキーワードの記事

OpenAI、9月29日に新AIエージェントを発表へ──ソフトウェア株のパニックは再来するか | Forbes JAPAN 公式サイト（フォーブス ジャパン）

2.4兆パラメーターの中華AI「Qwen3.8」がオープンモデルとして無償公開される、OpenAIやAnthropicの最先端モデルに匹敵する性能

GLM-5.2の開発元による中国製AIエージェントアプリ「ZCode」、AnthropicやOpenAIのAIモデルも活用可能

OpenAIとAnthropicに新ライバル出現。中国ではなく地元アメリカから | ギズモード・ジャパン

OpenAIはテストの監視が不十分であるという社内警告を繰り返し無視して追加のセキュリティ対策をせず迅速なリリースを優先していた

AIに「StarCraft」をリアルタイムで戦わせる「Brood War Bench」が登場、全モデルが初心者レベルながらCodex Astraは18戦全勝

ハッカーがAnthropicのClaudeを使ってOpenAIに侵入

謎の高性能AI、正体は中国の「GLM-5.3-Flash」と判明 AnthropicやOpenAIの対抗馬に

OpenAI・Anthropic・GoogleなどがAIによるサイバー攻撃の防御に関する共同声明を発表

なぜAnthropicなどAI企業は、古書を買い集め裁断し処分しているのか | Forbes JAPAN 公式サイト（フォーブス ジャパン）

アリババが従業員のClaude Code使用を禁止、セキュリティリスクの懸念のため

AIを50体集めてマインクラフトで文明を作らせたら食糧難に陥って配給制度が実施される

グーグル、GPT-6 Astra超えの「Gemini 4 Carbon」発表 脆弱性の発見と修正を強化

Googleが世界一高性能なAI「Gemini 4 Carbon」を発表、ついにOpenAIやAnthropicの最先端モデルを超える

Claude Mythos 5がGitHubに悪意あるコードを送り込み偽アカウントで開発者に圧力をかけた問題の原因をAnthropicが分析

中国製AI「Qwen3.8」にセキュリティ対策を命じたら勝手に北京のサーバーへデータ送信を試みたことが判明

ChatGPTとGeminiで4倍差、AI検索を過信してはいけない理由 | Forbes JAPAN 公式サイト（フォーブス ジャパン）

OpenAIやAnthropicの最先端モデルを上回る高性能AI「Muse Wonder」をMetaが発表、Museシリーズ登場から半年で最先端に追いつく

OpenAI、AI暴走で再発防止を強調 日本の協力も呼びかけ

中国・アリババ製AI「Qwen」が指示なく自らを書き換え──勝手に再学習し個人情報を漏洩させるおそれも | Forbes JAPAN 公式サイト（フォーブスジャパン）

OpenAI、9月29日に新AIエージェントを発表へ──ソフトウェア株のパニックは再来するか | Forbes JAPAN 公式サイト（フォーブスジャパン）

謎の高性能AI、正体は中国の「GLM-5.3-Flash」と判明　AnthropicやOpenAIの対抗馬に

なぜAnthropicなどAI企業は、古書を買い集め裁断し処分しているのか | Forbes JAPAN 公式サイト（フォーブスジャパン）

グーグル、GPT-6 Astra超えの「Gemini 4 Carbon」発表脆弱性の発見と修正を強化

ChatGPTとGeminiで4倍差、AI検索を過信してはいけない理由 | Forbes JAPAN 公式サイト（フォーブスジャパン）

OpenAI、AI暴走で再発防止を強調日本の協力も呼びかけ