Anthropicが「開発中のAIで外部を攻撃しないための対策」を発表

「OpenAIのテスト中モデルがHugging Faceを攻撃してしまった」という問題が話題になる中、Anthropicも「AIモデルのテスト中に外部への攻撃が発生していた」と報告しています。新たに、Anthropicがテスト中のモデルによる誤った攻撃を防ぐための対応内容を発表しました。続きを読む...

Anthropicが「開発中のAIで外部を攻撃しないための対策」を発表

この記事のキーワード

同じキーワードの記事

Metaが「Muse Spark 1.3」を発表、ついにAnthropicやOpenAIの最先端モデルに追いつく性能を達成

謎の高性能AI、正体は中国の「GLM-5.3-Flash」と判明 AnthropicやOpenAIの対抗馬に

OpenAI・Anthropic・GoogleなどがAIによるサイバー攻撃の防御に関する共同声明を発表

OpenAIが「安全のためにAIの強化学習を2週間停止した」と自社の安全対策をアピール

2.4兆パラメーターの中華AI「Qwen3.8」がオープンモデルとして無償公開される、OpenAIやAnthropicの最先端モデルに匹敵する性能

「Grok 4.5」が登場、Claude Opus 4.8と同等性能で料金は安価

GLM-5.2の開発元による中国製AIエージェントアプリ「ZCode」、AnthropicやOpenAIのAIモデルも活用可能

「DeepSeek-V4.1-Flash」発表 値上げから一転「より低コストでフラッグシップ超え」うたう

「2020年代末までにAIで人類滅亡の恐れ」--Anthropic研究者が退社、開発競争に警鐘

OpenAIが「GPT-6 Astraより高性能なモデル」を用いて数学の難問「ナビエ・ストークス方程式」の解決を主張、一方で人間の数学者の成果を流用した疑惑も生じる

Anthropicの研究者が退社し超知能の開発競争を猛批判──「来年末には制御不能になる可能性」

GPT-6 AstraがAIコーディング性能でトップ級の67点、圧倒的なトークン効率を示すもFable 5.1には届かず

ChatGPT、Claude、Grokで同時に障害 復旧済み

複数のAIサービスで障害発生 ChatGPT／Claude／Grok

OpenAIがHugging Faceを誤ってハッキングしてしまった件で分析結果を報告、隔離された複数のエージェントがお互いの存在を発見するところから壮大な協力作戦が始まる

OpenAI、AIの開発ペースを一時減速 最新モデルの強化学習を2週間停止 暴走リスクの高まりで

ローカルLLM編成が単独のフロンティアAIを超えた日

Hugging Faceを攻撃してしまったOpenAIが「AIからの攻撃を防止する方法10選」を公開、CodexなどのAIツールの活用を呼びかけ

Anthropicの電子透かし導入発表直後に登場した透かし剥がしOSS「watermarks-remover」がClaude・Gemini・OpenAIに対応（生成AIクローズアップ） | テクノエッジ TechnoEdge

AI生成テキストの「透かし」が埋め込まれる仕組み

謎の高性能AI、正体は中国の「GLM-5.3-Flash」と判明　AnthropicやOpenAIの対抗馬に

「DeepSeek-V4.1-Flash」発表値上げから一転「より低コストでフラッグシップ超え」うたう

ChatGPT、Claude、Grokで同時に障害復旧済み

OpenAI、AIの開発ペースを一時減速　最新モデルの強化学習を2週間停止　暴走リスクの高まりで