OpenAI、AI暴走で再発防止を強調 日本の協力も呼びかけ

OpenAIが最新モデルに対する強化学習を2週間中断／LLMCが約332億パラメーターの「LLM-jp-4 33B」を公開

はてなテクノロジー 08/22 23:00

AI・人工知能 サイバーセキュリティ OpenAI / GPT OpenAI Hugging Face セキュリティインシデント セキュリティ

Hugging Faceを攻撃してしまったOpenAIが「AIからの攻撃を防止する方法10選」を公開、CodexなどのAIツールの活用を呼びかけ

GIGAZINE 08/18 07:05

AI・人工知能 サイバーセキュリティ OpenAI / GPT Hugging OpenAI Face セキュリティインシデント セキュリティ

OpenAIのAIエージェントによる「Hugging Faceハッキング事件」は実際に何があったのか？AIが踏み越えた「恐ろしい一線」とは？

GIGAZINE 10/07 07:00

AI・人工知能 サイバーセキュリティ OpenAI / GPT OpenAI Hugging Face

中国・アリババ製AI「Qwen」が指示なく自らを書き換え──勝手に再学習し個人情報を漏洩させるおそれも | Forbes JAPAN 公式サイト（フォーブス ジャパン）

はてなテクノロジー 10/07 03:27

AI・人工知能 サイバーセキュリティ Anthropic / Claude OpenAI / GPT OpenAI セキュリティ

OpenAIはテストの監視が不十分であるという社内警告を繰り返し無視して追加のセキュリティ対策をせず迅速なリリースを優先していた

GIGAZINE 10/01 14:00

AI・人工知能 サイバーセキュリティ OpenAI / GPT OpenAI セキュリティ Hugging

ハッカーがAnthropicのClaudeを使ってOpenAIに侵入

GIGAZINE 09/19 02:00

AI・人工知能 サイバーセキュリティ Anthropic / Claude OpenAI / GPT Claude OpenAI

OpenAIのHugging Face攻撃事件などで調査を担当しているAI監査組織「METR」とは何なのか？

GIGAZINE 09/17 13:45

AI・人工知能 Anthropic / Claude OpenAI / GPT OpenAI Hugging Face

OpenAIのAIエージェントが5月13日にHugging Faceのアカウントを不正に乗っ取りサーバーを調査していたことが明らかに、「Hugging Faceハッキングを防げたはず」とセキュリティ研究者

GIGAZINE 09/17 04:41

AI・人工知能 サイバーセキュリティ OpenAI / GPT OpenAI Hugging Face

OpenAIのAIエージェントによるハッキング事件で他にも最低10件のサイトが侵害されていたことが判明

GIGAZINE 09/10 10:30

AI・人工知能 サイバーセキュリティ OpenAI / GPT OpenAI AIプラットフォーム Hugging

OpenAIのハッキング事件、原因はAIが「解けません」と言えなかったことにあった、撤退路がなかった設計の盲点 【生成AI事件簿】最終報告書が示すエージェント設計の死角、AIエージェント導入企業が見直すべき3つの安全設計 | JBpress (ジェイビープレス)

はてなテクノロジー 08/27 23:04

AI・人工知能 サイバーセキュリティ OpenAI / GPT OpenAI Hugging Face

「Claude Mythos 5」の提供範囲が拡大、直接プロンプトを入力できない仕組みで悪用リスクを抑制し「Claude Security」で利用可能に＆外部サービスにも提供へ

GIGAZINE 08/24 03:44

AI・人工知能 サイバーセキュリティ Anthropic / Claude Claude Mythos セキュリティ

OpenAIが「安全のためにAIの強化学習を2週間停止した」と自社の安全対策をアピール

GIGAZINE 08/19 03:56

AI・人工知能 サイバーセキュリティ OpenAI / GPT OpenAI セキュリティインシデント セキュリティ

OpenAI、AIの開発ペースを一時減速　最新モデルの強化学習を2週間停止　暴走リスクの高まりで

CNET Japan 08/18 22:15

AI・人工知能 サイバーセキュリティ OpenAI / GPT OpenAI Hugging Face

情報漏洩に敏感な金融機関で、Claude・Gemini・ChatGPTを導入した話

はてなテクノロジー 07/12 02:19

AI・人工知能 サイバーセキュリティ Anthropic / Claude OpenAI / GPT Claude セキュリティ

グーグル、GPT-6 Astra超えの「Gemini 4 Carbon」発表 脆弱性の発見と修正を強化

CNET Japan 10/29 02:05

AI・人工知能 サイバーセキュリティ OpenAI / GPT セキュリティ サイバー防御

Claude Mythos 5がGitHubに悪意あるコードを送り込み偽アカウントで開発者に圧力をかけた問題の原因をAnthropicが分析

GIGAZINE 10/28 11:00

AI・人工知能 サイバーセキュリティ Anthropic / Claude Claude Mythos

AIも「自分の間違い」を認められない？ Claude Mythos 5、攻撃を正当化し続行

CNET Japan 10/25 02:33

AI・人工知能 サイバーセキュリティ Anthropic / Claude Claude Mythos

AIにNintendo Switch 2を操作させて脱獄に成功、Codexが脆弱性を発見してゲームの改造まで実現

GIGAZINE 10/23 11:00

AI・人工知能 サイバーセキュリティ OpenAI / GPT セキュリティ OpenAI

厳選・セキュリティが心配ならClaude Codeにこの問いかけをコピペするべし20

はてなテクノロジー 10/22 11:28

セキュリティ Claude AI・人工知能 サイバーセキュリティ Anthropic / Claude

PHPの「重大」脆弱性はAIが見つけた 「GPT-5.6 Solで発見」とOpenAI 「今後、AIによる脆弱性発見が急増」

はてなテクノロジー 10/21 23:49

AI・人工知能 サイバーセキュリティ OpenAI / GPT OpenAI セキュリティ