AI時代のゼロトラストは限界か｜デセプションと復旧全振りを考える | CloudNative BLOGs

はじめにどうも、すかんくです。最近はポン酢にハマっています。急ですが、OpenAIとHugging Faceが先日出したインシデント報告を読んで以来、ひとつ引っかかっていることがあります。ゼロトラストって、今までと同じ解釈のまま走り続けて大丈夫なんだっけ？自分の中で答えは出ていません。（出す気もないし、その辺...

AI時代のゼロトラストは限界か｜デセプションと復旧全振りを考える | CloudNative BLOGs

この記事のキーワード

同じキーワードの記事

ゼロトラストはキツくない｜「完成」を目指す運用がキツい | CloudNative BLOGs

OpenAI、AIの開発ペースを一時減速 最新モデルの強化学習を2週間停止 暴走リスクの高まりで

無料で7種類の超小型AIモデルをブラウザで動かせる「MicroLLM lab」、WebGPUで端末のGPUを活用

OpenAIのAIエージェントによる「Hugging Faceハッキング事件」は実際に何があったのか？AIが踏み越えた「恐ろしい一線」とは？

OpenAI、AI暴走で再発防止を強調 日本の協力も呼びかけ

OpenAIはテストの監視が不十分であるという社内警告を繰り返し無視して追加のセキュリティ対策をせず迅速なリリースを優先していた

OpenAIのHugging Face攻撃事件などで調査を担当しているAI監査組織「METR」とは何なのか？

OpenAIのAIエージェントが5月13日にHugging Faceのアカウントを不正に乗っ取りサーバーを調査していたことが明らかに、「Hugging Faceハッキングを防げたはず」とセキュリティ研究者

Hugging Face侵害事件、OpenAIとMETRが最終報告書公開──約1200体のAIエージェントが“闇掲示板”で結託し700体が攻撃に参加

OpenAIがHugging Faceを誤ってハッキングしてしまった件で分析結果を報告、隔離された複数のエージェントがお互いの存在を発見するところから壮大な協力作戦が始まる

OpenAIが最新モデルに対する強化学習を2週間中断／LLMCが約332億パラメーターの「LLM-jp-4 33B」を公開

Hugging Faceを攻撃してしまったOpenAIが「AIからの攻撃を防止する方法10選」を公開、CodexなどのAIツールの活用を呼びかけ

PHPの「重大」脆弱性はAIが見つけた 「GPT-5.6 Solで発見」とOpenAI 「今後、AIによる脆弱性発見が急増」

名作絵本『がまくんとかえるくん』風にAIの暴走によるハッキングを風刺した『がまくんとかえるくんとますます進化する機械たち』

OpenAIのAIが勝手にHugging Faceをハッキングした件を受け非営利団体がOpenAIを提訴

AI時代にはこれまで以上に「顔の良さ」が重要になる可能性がある、AIは人間以上に顔の偏見が強いため

OpenAIの中で何が起きているのかをセキュリティ担当者が説明、AIラボには「合理的なパラノイアの文化」が必要

OpenAIのAIエージェントがアメリカの教育省・商務省・証券取引委員会のサイトに干渉していた

OpenAI、最上位モデルのツール使用を伴う学習・評価・推論を全て停止したと発表

OpenAI、AIの開発ペースを一時減速　最新モデルの強化学習を2週間停止　暴走リスクの高まりで

OpenAI、AI暴走で再発防止を強調日本の協力も呼びかけ

PHPの「重大」脆弱性はAIが見つけた「GPT-5.6 Solで発見」とOpenAI 「今後、AIによる脆弱性発見が急増」