OpenAIのHugging Face攻撃事件などで調査を担当しているAI監査組織「METR」とは何なのか？

OpenAIのテストモデルによるHugging Faceへの攻撃事件では、OpenAIが対応の一環としてAI監査組織「METR(Model Evaluation and Threat Research：モデルの評価と脅威の調査)」に監査を依頼しています。また、AnthropicもAIの安全性強化のためにMETRと提携したことを発表しています。このMETRが一体どんな組織なのかについて、代表を務めるクリス・ペインター氏が自ら解説しています。続きを読む...

GIGAZINE 2026年09月17日 13:45

この記事のキーワード

AI・人工知能 Anthropic / Claude OpenAI / GPT OpenAI Anthropic Hugging Face Research Model Threat クリス METR Evaluation Face攻撃事件 Face攻撃 AI監査組織 AI監査テストモデル攻撃事件 METR(Model METR( 調査性強化ペインター氏ペインター

グラフで繋がりを見る

同じキーワードの記事

共有しているキーワードが多い順

GIGAZINEで元記事を読む

OpenAIのHugging Face攻撃事件などで調査を担当しているAI監査組織「METR」とは何なのか？

この記事のキーワード

同じキーワードの記事

Anthropicが「開発中のAIで外部を攻撃しないための対策」を発表

Hugging Face侵害事件、OpenAIとMETRが最終報告書公開──約1200体のAIエージェントが“闇掲示板”で結託し700体が攻撃に参加

OpenAIのAIエージェントが5月13日にHugging Faceのアカウントを不正に乗っ取りサーバーを調査していたことが明らかに、「Hugging Faceハッキングを防げたはず」とセキュリティ研究者

OpenAI、AI安全性でAnthropic、Google DeepMindと協議中──Bloomberg報道

アップル、「Siri AI」をClaudeやGPTに置き換え可能に？「iOS 27」のコードが示す新機能

トランプ大統領がAIの開発ペースを遅らせようとするAnthropicのダリオ・アモデイCEOを批判、「AIが人類を滅ぼすなどという考えはデマ」

「東大生無料」AIサービスが話題 GMO系列「本サービスは東京大学とは無関係」

OpenAIやAnthropicなどAIベンダごとのAPIの違いを吸収し統合する「Agent Router」、Linux Foundation傘下で業界標準へ

盛り上がる「AI減速」論に「勝手にどうぞ。許可を求めるな」トランプ政権幹部

GPT-6 AstraとClaude Fableの性能を引き出すハーネス「Fusion」が登場、Claude CodeやCodexで使う場合と同等の性能を示しつつコストを最大39％削減

OpenAIやAnthropicトップが異例の「AI減速」支持トランプ氏は拒否、中国との競争を優先

Anthropicのダリオ・アモデイCEOが「6～12カ月以内にAIがインターネットを乗っ取る可能性あり」「AI開発を減速させるべき」と主張、イーロン・マスクやサム・アルトマンやデミス・ハサビスらも賛同

トランプ政権のサックス氏、AI「ペース調整」論に苦言「規制がなければできないふりをやめろ」

Anthoropic CEOが「AI開発の減速」提言 OpenAIアルトマン氏、イーロン・マスク氏も賛同

「DeepSeek-V4.1-Flash」発表値上げから一転「より低コストでフラッグシップ超え」うたう

「2020年代末までにAIで人類滅亡の恐れ」--Anthropic研究者が退社、開発競争に警鐘

OpenAIが「GPT-6 Astraより高性能なモデル」を用いて数学の難問「ナビエ・ストークス方程式」の解決を主張、一方で人間の数学者の成果を流用した疑惑も生じる

Anthropicの研究者が退社し超知能の開発競争を猛批判──「来年末には制御不能になる可能性」

ChatGPT、Claude、Grokで同時に障害復旧済み

複数のAIサービスで障害発生 ChatGPT／Claude／Grok

OpenAIのHugging Face攻撃事件などで調査を担当しているAI監査組織「METR」とは何なのか？

この記事のキーワード

同じキーワードの記事

Anthropicが「開発中のAIで外部を攻撃しないための対策」を発表

Hugging Face侵害事件、OpenAIとMETRが最終報告書公開──約1200体のAIエージェントが“闇掲示板”で結託し700体が攻撃に参加

OpenAIのAIエージェントが5月13日にHugging Faceのアカウントを不正に乗っ取りサーバーを調査していたことが明らかに、「Hugging Faceハッキングを防げたはず」とセキュリティ研究者

OpenAI、AI安全性でAnthropic、Google DeepMindと協議中──Bloomberg報道

アップル、「Siri AI」をClaudeやGPTに置き換え可能に？ 「iOS 27」のコードが示す新機能

トランプ大統領がAIの開発ペースを遅らせようとするAnthropicのダリオ・アモデイCEOを批判、「AIが人類を滅ぼすなどという考えはデマ」

「東大生無料」AIサービスが話題 GMO系列 「本サービスは東京大学とは無関係」

OpenAIやAnthropicなどAIベンダごとのAPIの違いを吸収し統合する「Agent Router」、Linux Foundation傘下で業界標準へ

盛り上がる「AI減速」論に「勝手にどうぞ。許可を求めるな」 トランプ政権幹部

GPT-6 AstraとClaude Fableの性能を引き出すハーネス「Fusion」が登場、Claude CodeやCodexで使う場合と同等の性能を示しつつコストを最大39％削減

OpenAIやAnthropicトップが異例の「AI減速」支持 トランプ氏は拒否、中国との競争を優先

Anthropicのダリオ・アモデイCEOが「6～12カ月以内にAIがインターネットを乗っ取る可能性あり」「AI開発を減速させるべき」と主張、イーロン・マスクやサム・アルトマンやデミス・ハサビスらも賛同

トランプ政権のサックス氏、AI「ペース調整」論に苦言 「規制がなければできないふりをやめろ」

Anthoropic CEOが「AI開発の減速」提言 OpenAIアルトマン氏、イーロン・マスク氏も賛同

「DeepSeek-V4.1-Flash」発表 値上げから一転「より低コストでフラッグシップ超え」うたう

「2020年代末までにAIで人類滅亡の恐れ」--Anthropic研究者が退社、開発競争に警鐘

OpenAIが「GPT-6 Astraより高性能なモデル」を用いて数学の難問「ナビエ・ストークス方程式」の解決を主張、一方で人間の数学者の成果を流用した疑惑も生じる

Anthropicの研究者が退社し超知能の開発競争を猛批判──「来年末には制御不能になる可能性」

ChatGPT、Claude、Grokで同時に障害 復旧済み

複数のAIサービスで障害発生 ChatGPT／Claude／Grok

アップル、「Siri AI」をClaudeやGPTに置き換え可能に？「iOS 27」のコードが示す新機能

「東大生無料」AIサービスが話題 GMO系列「本サービスは東京大学とは無関係」

盛り上がる「AI減速」論に「勝手にどうぞ。許可を求めるな」トランプ政権幹部

OpenAIやAnthropicトップが異例の「AI減速」支持トランプ氏は拒否、中国との競争を優先

トランプ政権のサックス氏、AI「ペース調整」論に苦言「規制がなければできないふりをやめろ」

「DeepSeek-V4.1-Flash」発表値上げから一転「より低コストでフラッグシップ超え」うたう

ChatGPT、Claude、Grokで同時に障害復旧済み