OpenAIのAIが勝手にHugging Faceをハッキングした件を受け非営利団体がOpenAIを提訴

名作絵本『がまくんとかえるくん』風にAIの暴走によるハッキングを風刺した『がまくんとかえるくんとますます進化する機械たち』

GIGAZINE 10/05 06:00

AI・人工知能 サイバーセキュリティ OpenAI / GPT ハッキング OpenAI AIモデル Hugging

OpenAIはテストの監視が不十分であるという社内警告を繰り返し無視して追加のセキュリティ対策をせず迅速なリリースを優先していた

GIGAZINE 10/01 14:00

AI・人工知能 サイバーセキュリティ OpenAI / GPT OpenAI Hugging ハッキング AIモデル

OpenAIがHugging Faceを誤ってハッキングしてしまった件で分析結果を報告、隔離された複数のエージェントがお互いの存在を発見するところから壮大な協力作戦が始まる

GIGAZINE 08/27 04:35

ハッキング AI・人工知能 サイバーセキュリティ OpenAI / GPT OpenAI Hugging AIモデル

OpenAIのAIエージェントによる「Hugging Faceハッキング事件」は実際に何があったのか？AIが踏み越えた「恐ろしい一線」とは？

GIGAZINE 10/07 07:00

AI・人工知能 サイバーセキュリティ OpenAI / GPT OpenAI Hugging ハッキング

OpenAIのAIエージェントがアメリカの教育省・商務省・証券取引委員会のサイトに干渉していた

GIGAZINE 09/28 03:22

AI・人工知能 サイバーセキュリティ OpenAI / GPT OpenAI Hugging ハッキング

OpenAIのAIエージェントが5月13日にHugging Faceのアカウントを不正に乗っ取りサーバーを調査していたことが明らかに、「Hugging Faceハッキングを防げたはず」とセキュリティ研究者

GIGAZINE 09/17 04:41

AI・人工知能 サイバーセキュリティ OpenAI / GPT OpenAI Hugging ハッキング

OpenAIのAIエージェントによるハッキング事件で他にも最低10件のサイトが侵害されていたことが判明

GIGAZINE 09/10 10:30

AI・人工知能 サイバーセキュリティ OpenAI / GPT OpenAI ハッキング Hugging

OpenAIのハッキング事件、原因はAIが「解けません」と言えなかったことにあった、撤退路がなかった設計の盲点 【生成AI事件簿】最終報告書が示すエージェント設計の死角、AIエージェント導入企業が見直すべき3つの安全設計 | JBpress (ジェイビープレス)

はてなテクノロジー 08/27 23:04

AI・人工知能 サイバーセキュリティ OpenAI / GPT OpenAI ハッキング Hugging

OpenAI、AIの開発ペースを一時減速　最新モデルの強化学習を2週間停止　暴走リスクの高まりで

CNET Japan 08/18 22:15

AIモデル Hugging AI・人工知能 サイバーセキュリティ OpenAI / GPT OpenAI

PHPの脆弱性、OpenAIのAIで発見 「同様の発見、今後数カ月で急増」

はてなテクノロジー 10/21 17:45

AI・人工知能 サイバーセキュリティ OpenAI / GPT OpenAI AIモデル

OpenAI、AI暴走で再発防止を強調 日本の協力も呼びかけ

Impress Watch 10/07 05:00

AI・人工知能 サイバーセキュリティ OpenAI / GPT OpenAI Hugging

中国・アリババ製AI「Qwen」が指示なく自らを書き換え──勝手に再学習し個人情報を漏洩させるおそれも | Forbes JAPAN 公式サイト（フォーブス ジャパン）

はてなテクノロジー 10/07 03:27

AI・人工知能 サイバーセキュリティ OpenAI / GPT OpenAI AIモデル

OpenAIの中で何が起きているのかをセキュリティ担当者が説明、AIラボには「合理的なパラノイアの文化」が必要

GIGAZINE 09/29 06:00

OpenAI ハッキング AI・人工知能 サイバーセキュリティ OpenAI / GPT

OpenAIのAIエージェントがオーストラリア政府機関のシステムをハッキングしたことが判明、OpenAIは3カ月間報告せず

GIGAZINE 09/25 03:59

AI・人工知能 サイバーセキュリティ OpenAI / GPT OpenAI ハッキング

「GPT-6 Astra」登場、PC操作が非常に上手で「Blenderで3Dモデルを作ってUE5で歩ける空間にする」なども可能＆ARC-AGI-3で99.9％を達成

GIGAZINE 09/04 03:35

AI・人工知能 サイバーセキュリティ OpenAI / GPT OpenAI AIモデル

Anthropicが「開発中のAIで外部を攻撃しないための対策」を発表

GIGAZINE 09/01 09:56

AI・人工知能 OpenAI / GPT OpenAI Hugging AIモデル

OpenAI・Anthropic・GoogleなどがAIによるサイバー攻撃の防御に関する共同声明を発表

GIGAZINE 08/28 02:24

AI・人工知能 サイバーセキュリティ OpenAI / GPT OpenAI AIモデル

OpenAIが最新モデルに対する強化学習を2週間中断／LLMCが約332億パラメーターの「LLM-jp-4 33B」を公開

はてなテクノロジー 08/22 23:00

AI・人工知能 サイバーセキュリティ OpenAI / GPT OpenAI Hugging

OpenAI、自らAI開発を減速　「安全より競争」を止められるか

ASCII.jp 08/19 02:00

AI・人工知能 サイバーセキュリティ OpenAI / GPT OpenAI AI開発

Hugging Faceを攻撃してしまったOpenAIが「AIからの攻撃を防止する方法10選」を公開、CodexなどのAIツールの活用を呼びかけ

GIGAZINE 08/18 07:05

AI・人工知能 サイバーセキュリティ OpenAI / GPT Hugging OpenAI