相次ぐAIエージェントの逸脱行動、監視には2つの記録が必要だ

オープンAIやアンソロピック、グーグル、メタのAIエージェントが制御を外れる事例が相次いでいる。規制当局はリアルタイムの監視を求めるが、主要なエージェント・フレームワークは、監視に欠かせない「何が起きたか」と「どう判断したか」の記録を十分に残せていない。

ASCII.jp 2026年11月03日 21:28

この記事のキーワード

グラフで繋がりを見る

同じキーワードの記事

共有しているキーワードが多い順

もうプロンプトは書かなくていい…管理職も活躍できる「ループ・エンジニアリング」の時代がやって来た | Business Insider Japan

はてなテクノロジー 07/03 03:57
AI・人工知能 AIエージェント Anthropic / Claude アンソロピック オープンAI

〈現地ルポ〉NTTがAIブーム震源地に新設した「AI開発拠点」の正体…"GAFAM出身エリートたちの異色集団"の全貌 | ビジネス | 東洋経済オンライン

東洋経済 10/12 21:00
AI・人工知能 Anthropic / Claude オープンAI アンソロピック

深刻さを増すハッキング…AIの暴走で急浮上するオープンAIやアンソロピックの"法的責任" | 政治・経済・投資 | 東洋経済オンライン

東洋経済 10/09 21:00
AI・人工知能 Anthropic / Claude オープンAI アンソロピック

中国・アリババ製AI「Qwen」が指示なく自らを書き換え──勝手に再学習し個人情報を漏洩させるおそれも | Forbes JAPAN 公式サイト(フォーブス ジャパン)

はてなテクノロジー 10/07 03:27
AI・人工知能 AIエージェント Anthropic / Claude アンソロピック

AIエージェント暴走は誰の責任? 報告義務も監査も届かない法の空白

ASCII.jp 09/29 21:29
AI・人工知能 AIエージェント オープンAI エージェント

オープンAIのAIが暴走 米教育省、商務省、SECのサイト標的

はてなテクノロジー 09/27 06:46
AI・人工知能 AIエージェント オープンAI エージェント

オントロジー定義から AI エージェントのツールを機械的に生成する

はてなテクノロジー 09/27 01:22
AI・人工知能 AIエージェント Anthropic / Claude エージェント

AIに「StarCraft」をリアルタイムで戦わせる「Brood War Bench」が登場、全モデルが初心者レベルながらCodex Astraは18戦全勝

GIGAZINE 09/25 10:50
AI・人工知能 AIエージェント Anthropic / Claude エージェント

「人類皆殺しにしかねない」元開発者が警鐘のAI “AI著作物”で前例なき裁判 文学賞も席巻 突きつけられた深刻な問い(関西テレビ) - Yahoo!ニュース

はてなテクノロジー 09/17 00:09
AI・人工知能 Anthropic / Claude オープンAI アンソロピック

AIのテスト観点を「決定論的」にする - テスト観点カタログを作った

はてなテクノロジー 09/15 05:20
AI・人工知能 AIエージェント Anthropic / Claude エージェント

アンソロピックで抗議の退社、OpenAI社員も同調 AI開発加速を懸念 - 日本経済新聞

はてなテクノロジー 09/10 23:04
オープンAI AI・人工知能 Anthropic / Claude アンソロピック

アンソロピック、物理デバイスのAI制御標準規格「MHS」発表

Impress Watch 08/31 06:00
AI・人工知能 AIエージェント Anthropic / Claude アンソロピック

Claude Cowork、ChatGPT Work、Gemini Sparkはどう違う? 得意なタスクは? ~御三家からAIエージェントが出揃った【柳谷智宣のAI ウォッチ!】

はてなテクノロジー 08/25 00:46
エージェント AI・人工知能 AIエージェント Anthropic / Claude

PayPayとスペースXの上場で復活した「POWL」の正体…12年ぶり扉開いた個人の海外IPO投資、次の投資機会は空前の巨大IPOか | ビジネス | 東洋経済オンライン

東洋経済 08/25 00:00
AI・人工知能 Anthropic / Claude オープンAI アンソロピック

Claudeエージェント同士が「縄張り争い」で互いを妨害したり価格について共謀したりする事例がAnthropicの実験で発生

GIGAZINE 08/19 14:30
エージェント AI・人工知能 AIエージェント Anthropic / Claude

「Grok 4.6」が登場、長時間のエージェント作業に強くなりGPT-5.6 SolやClaude Fable 5と並ぶ性能に

GIGAZINE 08/13 04:33
AI・人工知能 AIエージェント Anthropic / Claude エージェント

Anthropic、Claude CodeでAIエージェントを活用するループ設計を紹介 | gihyo.jp

はてなテクノロジー 07/09 03:52
AIエージェント AI・人工知能 Anthropic / Claude エージェント

AI エージェントフレームワーク Flue を試してみた

はてなテクノロジー 06/28 14:26
AI・人工知能 AIエージェント エージェント フレームワーク

AWS、AIエージェントがリポジトリを自動スキャンして技術的負債を指摘してくれる「AWS Transform – continuous modernization」プレビュー公開

Publickey 06/21 15:24
エージェント AI・人工知能 AIエージェント フレームワーク

Perplexityが独自の業務特化型AIエージェント「Teammates」を発表

GIGAZINE 11/06 03:03
AI・人工知能 AIエージェント エージェント
ASCII.jpで元記事を読む