Anthropicが「開発中のAIで外部を攻撃しないための対策」を発表

「OpenAIのテスト中モデルがHugging Faceを攻撃してしまった」という問題が話題になる中、Anthropicも「AIモデルのテスト中に外部への攻撃が発生していた」と報告しています。新たに、Anthropicがテスト中のモデルによる誤った攻撃を防ぐための対応内容を発表しました。続きを読む...

Anthropicが「開発中のAIで外部を攻撃しないための対策」を発表

この記事のキーワード

同じキーワードの記事

Googleが世界一高性能なAI「Gemini 4 Carbon」を発表、ついにOpenAIやAnthropicの最先端モデルを超える

OpenAIやAnthropicの最先端モデルを上回る高性能AI「Muse Wonder」をMetaが発表、Museシリーズ登場から半年で最先端に追いつく

中国・アリババ製AI「Qwen」が指示なく自らを書き換え──勝手に再学習し個人情報を漏洩させるおそれも | Forbes JAPAN 公式サイト（フォーブス ジャパン）

名作絵本『がまくんとかえるくん』風にAIの暴走によるハッキングを風刺した『がまくんとかえるくんとますます進化する機械たち』

AI時代にはこれまで以上に「顔の良さ」が重要になる可能性がある、AIは人間以上に顔の偏見が強いため

Anthropic「Claude Opus 5.5」発表 40％低コストになり、OpenAI「GPT-6 Astra」を一部で上回る

OpenAIのHugging Face攻撃事件などで調査を担当しているAI監査組織「METR」とは何なのか？

「東大生無料」AIサービスが話題 GMO系列 「本サービスは東京大学とは無関係」

Metaが「Muse Spark 1.3」を発表、ついにAnthropicやOpenAIの最先端モデルに追いつく性能を達成

謎の高性能AI、正体は中国の「GLM-5.3-Flash」と判明 AnthropicやOpenAIの対抗馬に

OpenAI・Anthropic・GoogleなどがAIによるサイバー攻撃の防御に関する共同声明を発表

OpenAIが「安全のためにAIの強化学習を2週間停止した」と自社の安全対策をアピール

2.4兆パラメーターの中華AI「Qwen3.8」がオープンモデルとして無償公開される、OpenAIやAnthropicの最先端モデルに匹敵する性能

「Grok 4.5」が登場、Claude Opus 4.8と同等性能で料金は安価

GLM-5.2の開発元による中国製AIエージェントアプリ「ZCode」、AnthropicやOpenAIのAIモデルも活用可能

AIを50体集めてマインクラフトで文明を作らせたら食糧難に陥って配給制度が実施される

OpenAIとAnthropicが2026年夏から秋にかけてLLM料金を相次いで値下げした理由とは？

AIプログラミングツール「OpenCode」でAPIキー流出の可能性、OpenAIやClaudeの利用残高が不正利用でゼロになったとの報告も

Meta、ChatGPTやClaudeに対抗する最先端AI「Muse Wonder」発表

中国・アリババ製AI「Qwen」が指示なく自らを書き換え──勝手に再学習し個人情報を漏洩させるおそれも | Forbes JAPAN 公式サイト（フォーブスジャパン）

「東大生無料」AIサービスが話題 GMO系列「本サービスは東京大学とは無関係」

謎の高性能AI、正体は中国の「GLM-5.3-Flash」と判明　AnthropicやOpenAIの対抗馬に