「Claude」による不正アクセス、4件目が判明──Anthropic、「アライメントの失敗」と評価を修正

米Anthropicは9月9日（現地時間）、AIモデル「Claude」がサイバーセキュリティ評価中に実在する第三者のシステムへ不正にアクセスした4件のインシデントについて、アライメントの観点から分析した報告書を公開した。3件は7月30日に公表済みで、今回新たに1件を明らかにした。同社は7月時点で「アライメントの失敗という...

「Claude」による不正アクセス、4件目が判明──Anthropic、「アライメントの失敗」と評価を修正

この記事のキーワード

同じキーワードの記事

チームみらい安野氏「サイバー攻撃能力の高いAIモデルが拡散」 相次ぐ情報漏えい受け「対応を急ぐ必要がある」

Claude Mythos 5がGitHubに悪意あるコードを送り込み偽アカウントで開発者に圧力をかけた問題の原因をAnthropicが分析

AIも「自分の間違い」を認められない？ Claude Mythos 5、攻撃を正当化し続行

まるで「本物のClaude」な偽サイト見つかる Googleアカウントを乗っ取る恐れ

AnthropicがClaude新モデル「Opus 5.5」発表 Fable 5.1並みの性能をOpus 5より4割安く

Anthropicが「テスト中のAIで他社を攻撃してしまったインシデント」の発生原因を報告

Anthropic、「Claude Fable 5.1」「Mythos 5.1」公開 AI透かしも導入

Claude Fable 5.1提供開始 セーフガード誤介入が大幅減、性能向上で半額以下のタスクも。「AIが科学の進歩に貢献する未来の先駆け」 | テクノエッジ TechnoEdge

「Claude Mythos 5」の提供範囲が拡大、直接プロンプトを入力できない仕組みで悪用リスクを抑制し「Claude Security」で利用可能に＆外部サービスにも提供へ

「Claude Fable 5」、7月20日までサブスク内で利用可能に--13日から再延長

「Claude Fable 5」、サブスク内利用を7月13日午後まで延長

Anthropic、Claudeの内部に「ヒトの意識」に似た領域を発見

【Fable 5に聞いてみた】10年後、ITエンジニアの仕事はどうなる？ 他のAIモデルの回答とも比較

「Claude Fable 5」をサブスクの標準機能に――AnthropicのエンジニアがXに投稿 7月8日以降の「早期復活目指す」

Anthropic、1人社長の創薬企業を買収 「Claude」で小児難病の治療研究

「エルヴィス・プレスリーの曲がAI学習に無断使用された」と60億円超の損害賠償をAnthropicに求める訴訟が提起される

AnthropicのAIモデル・Claudeが人間の許可なく有権者情報にアクセス

「もうプロンプトは書かない」 Claude Code生みの親が明かす“ループエンジニアリング”の衝撃

Claudeが25年以上謎だった暗号規格の数値の起源を解明、NSAが説明なく提供した数値は「1990年代の乱数」だった

Anthropic、METRの評価チームを社内に常駐させ“従業員並み”のアクセス付与 公表に拒否権なし

チームみらい安野氏「サイバー攻撃能力の高いAIモデルが拡散」相次ぐ情報漏えい受け「対応を急ぐ必要がある」

Claude Fable 5.1提供開始セーフガード誤介入が大幅減、性能向上で半額以下のタスクも。「AIが科学の進歩に貢献する未来の先駆け」 | テクノエッジ TechnoEdge

【Fable 5に聞いてみた】10年後、ITエンジニアの仕事はどうなる？　他のAIモデルの回答とも比較

「Claude Fable 5」をサブスクの標準機能に――AnthropicのエンジニアがXに投稿　7月8日以降の「早期復活目指す」

Anthropic、1人社長の創薬企業を買収「Claude」で小児難病の治療研究

Anthropic、METRの評価チームを社内に常駐させ“従業員並み”のアクセス付与公表に拒否権なし