AIも「自分の間違い」を認められない？ Claude Mythos 5、攻撃を正当化し続行

Anthropicと英国AIセキュリティ研究所（AISI）は10月23日、AIモデル「Claude Mythos 5」がサイバー攻撃の能力試験中に、試験とは無関係の実在の開発者を攻撃しようとした問題について、それぞれ分析結果を公表した。Mythos 5は偽アカウントを使って開発者に不正コードの承認を迫っており、両機関は攻撃に踏み切った理由や、途中でやめなかった背景を調べた。

AIも「自分の間違い」を認められない？ Claude Mythos 5、攻撃を正当化し続行

この記事のキーワード

同じキーワードの記事

Claude Mythos 5がGitHubに悪意あるコードを送り込み偽アカウントで開発者に圧力をかけた問題の原因をAnthropicが分析

チームみらい安野氏「サイバー攻撃能力の高いAIモデルが拡散」 相次ぐ情報漏えい受け「対応を急ぐ必要がある」

「中国のGLM-5.3はClaude Mythos Preview級のサイバー攻撃能力を持つ一方で安全対策が不十分」とAnthropicが警告

Claude Fable 5.1提供開始 セーフガード誤介入が大幅減、性能向上で半額以下のタスクも。「AIが科学の進歩に貢献する未来の先駆け」 | テクノエッジ TechnoEdge

「Claude Mythos 5」の提供範囲が拡大、直接プロンプトを入力できない仕組みで悪用リスクを抑制し「Claude Security」で利用可能に＆外部サービスにも提供へ

AIの反乱よりもトクリュウによるスマートロックやスマート家電へのサイバー攻撃による同時多発的なフィジカルテロルのが怖い - 太陽がまぶしかったから

Google、「Gemini 4 Argon」を一般公開 ChatGPTやClaudeの上位モデルに対抗

アンソロピック、「AI悪用」レポート 国家による影響工作や中国AIの蒸留を非難

「Claude」による不正アクセス、4件目が判明──Anthropic、「アライメントの失敗」と評価を修正

「パッチを全部当てる」時代の終焉 Check PointのCTOが語る、AI時代の脆弱性管理

Anthropic、「Claude Fable 5.1」「Mythos 5.1」公開 AI透かしも導入

OpenAI・Anthropic・GoogleなどがAIによるサイバー攻撃の防御に関する共同声明を発表

実はAnthropicには最上位のMythosよりも強力な「Model 2」というAIモデルがあるがリリース予定はない

アンソロピック「ミュトス5」を復活 米国のインフラ組織に再展開

中国の開発者が公式価格の約10％でAnthropicのAIモデルを利用できるAPIプロキシ「中转站」が支えるグレー経済圏の実態とは？

「エルヴィス・プレスリーの曲がAI学習に無断使用された」と60億円超の損害賠償をAnthropicに求める訴訟が提起される

「Claude」のAnthropicが上場申請 売上好調で営業損失縮小 ティッカー「ANT」に

AnthropicのAIモデル・Claudeが人間の許可なく有権者情報にアクセス

Claudeが25年以上謎だった暗号規格の数値の起源を解明、NSAが説明なく提供した数値は「1990年代の乱数」だった

デジハリ大、「Claude」を全学導入へ──国内初、“回数気にせず”使い放題に

チームみらい安野氏「サイバー攻撃能力の高いAIモデルが拡散」相次ぐ情報漏えい受け「対応を急ぐ必要がある」

Claude Fable 5.1提供開始セーフガード誤介入が大幅減、性能向上で半額以下のタスクも。「AIが科学の進歩に貢献する未来の先駆け」 | テクノエッジ TechnoEdge

アンソロピック、「AI悪用」レポート国家による影響工作や中国AIの蒸留を非難

アンソロピック「ミュトス5」を復活　米国のインフラ組織に再展開

「Claude」のAnthropicが上場申請売上好調で営業損失縮小ティッカー「ANT」に