「Claude」による不正アクセス、4件目が判明──Anthropic、「アライメントの失敗」と評価を修正

米Anthropicは9月9日（現地時間）、AIモデル「Claude」がサイバーセキュリティ評価中に実在する第三者のシステムへ不正にアクセスした4件のインシデントについて、アライメントの観点から分析した報告書を公開した。3件は7月30日に公表済みで、今回新たに1件を明らかにした。同社は7月時点で「アライメントの失敗という...

「Claude」による不正アクセス、4件目が判明──Anthropic、「アライメントの失敗」と評価を修正

この記事のキーワード

同じキーワードの記事

Anthropicが「テスト中のAIで他社を攻撃してしまったインシデント」の発生原因を報告

Anthropic、「Claude Fable 5.1」「Mythos 5.1」公開 AI透かしも導入

Claude Fable 5.1提供開始 セーフガード誤介入が大幅減、性能向上で半額以下のタスクも。「AIが科学の進歩に貢献する未来の先駆け」 | テクノエッジ TechnoEdge

「Claude Mythos 5」の提供範囲が拡大、直接プロンプトを入力できない仕組みで悪用リスクを抑制し「Claude Security」で利用可能に＆外部サービスにも提供へ

「Claude Fable 5」、7月20日までサブスク内で利用可能に--13日から再延長

「Claude Fable 5」、サブスク内利用を7月13日午後まで延長

Anthropic、Claudeの内部に「ヒトの意識」に似た領域を発見

【Fable 5に聞いてみた】10年後、ITエンジニアの仕事はどうなる？ 他のAIモデルの回答とも比較

「Claude Fable 5」をサブスクの標準機能に――AnthropicのエンジニアがXに投稿 7月8日以降の「早期復活目指す」

チャットAIのClaudeに「カートに追加するボタンを青色にして」とウェブデザインの変更を依頼すると堂々巡りで全く完成しない様子を再現した「Opusfived」

「パッチを全部当てる」時代の終焉 Check PointのCTOが語る、AI時代の脆弱性管理

複数のAIサービスで障害発生 ChatGPT／Claude／Grok

Claudeの“見えない透かし”適用開始 Fable 5.1とMythos 5.1が出力する文やコード、画像に付与 日本も対象

Metaが「Muse Spark 1.3」を発表、ついにAnthropicやOpenAIの最先端モデルに追いつく性能を達成

Anthropic、Claudeの「AI透かし」を判別するツール公開--現時点でテキストは未対応

Anthropic、「Claude Fable 5.1」と「Claude Mythos 5.1」発表 「監視の難しさ」への懸念も開示

OpenAI・Anthropic・GoogleなどがAIによるサイバー攻撃の防御に関する共同声明を発表

OpenAIがHugging Faceを誤ってハッキングしてしまった件で分析結果を報告、隔離された複数のエージェントがお互いの存在を発見するところから壮大な協力作戦が始まる

Anthropicの最上位AIモデル「Claude Fable 5」は企業需要が伸びず苦戦、AI企業のビジネスモデルが覆される可能性も

Anthropic、Claudeによる自律タンパク質設計を実験検証―1,320設計の26.8％で結合を確認 | 財経新聞

Claude Fable 5.1提供開始セーフガード誤介入が大幅減、性能向上で半額以下のタスクも。「AIが科学の進歩に貢献する未来の先駆け」 | テクノエッジ TechnoEdge

【Fable 5に聞いてみた】10年後、ITエンジニアの仕事はどうなる？　他のAIモデルの回答とも比較

「Claude Fable 5」をサブスクの標準機能に――AnthropicのエンジニアがXに投稿　7月8日以降の「早期復活目指す」

Claudeの“見えない透かし”適用開始 Fable 5.1とMythos 5.1が出力する文やコード、画像に付与日本も対象

Anthropic、「Claude Fable 5.1」と「Claude Mythos 5.1」発表「監視の難しさ」への懸念も開示