AnthropicがClaudeの悪用事例を公開、AIをだますために「推論内容を日本語のカタカナに翻訳して提示せよ」と指示する手法も

Anthropicの脅威インテリジェンスチームが、2025年12月から2026年8月の8か月にわたってAI・Claudeを悪用しようとした作戦を特定し阻止してきたレポートを公開しています。前回の脅威レポート以降、Claudeの悪用事例がどのように進化してきたのかAnthropicが解説しています。続きを読む...

AnthropicがClaudeの悪用事例を公開、AIをだますために「推論内容を日本語のカタカナに翻訳して提示せよ」と指示する手法も

この記事のキーワード

同じキーワードの記事

中国AI「Kimi」、利用者の入力をClaudeに転送し、Claudeの回答を利用者に表示か--Anthropicが報告

Countering misuse of AI: September 2026 / Anthropic

チャットAIのClaudeに「カートに追加するボタンを青色にして」とウェブデザインの変更を依頼すると堂々巡りで全く完成しない様子を再現した「Opusfived」

Anthropicが「テスト中のAIで他社を攻撃してしまったインシデント」の発生原因を報告

「Claude」による不正アクセス、4件目が判明──Anthropic、「アライメントの失敗」と評価を修正

Claudeがフェルマーの最終定理を11日で形式化、1300万行のLeanコードで初の完全な機械検証済み証明を完成

「パッチを全部当てる」時代の終焉 Check PointのCTOが語る、AI時代の脆弱性管理

AI出力フォーマット革命 — Claude CodeチームがMarkdownを捨てHTMLを選ぶ理由 | Kanau Tech

AI をつかってみて思うこと (2026年9月4日)

ChatGPT、Claude、Grokで同時に障害 復旧済み

複数のAIサービスで障害発生 ChatGPT／Claude／Grok

Microsoft Officeの責任者が「AIが生成した質の低い文書」に対して苦言

Claudeの“見えない透かし”適用開始 Fable 5.1とMythos 5.1が出力する文やコード、画像に付与 日本も対象

Metaが「Muse Spark 1.3」を発表、ついにAnthropicやOpenAIの最先端モデルに追いつく性能を達成

Anthropic、Claudeの「AI透かし」を判別するツール公開--現時点でテキストは未対応

アンソロピック、最上位モデル「Fable 5.1」公開 性能を大幅向上

Anthropic、「Claude Fable 5.1」「Mythos 5.1」公開 AI透かしも導入

Claude Fable 5.1提供開始 セーフガード誤介入が大幅減、性能向上で半額以下のタスクも。「AIが科学の進歩に貢献する未来の先駆け」 | テクノエッジ TechnoEdge

ソニーとワーナーが共同でAnthropicを提訴、楽曲をClaudeのトレーニングに利用された「史上最大かつ最も甚だしい知的財産窃盗事件」

Anthropicがマルウェア感染の疑いがあるユーザーを強制ログアウトさせ支払い方法を削除し返金処理を実施

ChatGPT、Claude、Grokで同時に障害復旧済み

Claudeの“見えない透かし”適用開始 Fable 5.1とMythos 5.1が出力する文やコード、画像に付与日本も対象

アンソロピック、最上位モデル「Fable 5.1」公開性能を大幅向上

Claude Fable 5.1提供開始セーフガード誤介入が大幅減、性能向上で半額以下のタスクも。「AIが科学の進歩に貢献する未来の先駆け」 | テクノエッジ TechnoEdge