OpenAIのAIエージェントが国連のウェブサイトにブルートフォース攻撃を試みる

OpenAIの中で何が起きているのかをセキュリティ担当者が説明、AIラボには「合理的なパラノイアの文化」が必要

GIGAZINE 09/29 06:00

AI・人工知能 サイバーセキュリティ AIエージェント OpenAI / GPT 国連 OpenAI ウェブサイト ブルートフォース攻撃( ブルートフォース攻撃 当たり攻撃

OpenAIのAIエージェントが5月13日にHugging Faceのアカウントを不正に乗っ取りサーバーを調査していたことが明らかに、「Hugging Faceハッキングを防げたはず」とセキュリティ研究者

GIGAZINE 09/17 04:41

AI・人工知能 サイバーセキュリティ AIエージェント OpenAI / GPT OpenAI セキュリティ研究者 セキュリティ研究

OpenAIのAIエージェントがアメリカの教育省・商務省・証券取引委員会のサイトに干渉していた

GIGAZINE 09/28 03:22

AI・人工知能 サイバーセキュリティ AIエージェント OpenAI / GPT OpenAI ウェブサイト

ハッカーがAnthropicのClaudeを使ってOpenAIに侵入

GIGAZINE 09/19 02:00

AI・人工知能 サイバーセキュリティ OpenAI / GPT OpenAI セキュリティ研究者 セキュリティ研究

OpenAIのAIエージェントによるものとみられているRubyGemsへの不正なパッケージ大量投稿についてまとめてみた - piyolog

はてなテクノロジー 09/16 00:37

AI・人工知能 サイバーセキュリティ AIエージェント OpenAI / GPT OpenAI セキュリティ研究者

OpenAIのAIエージェントがRubyGemsへの攻撃に関与か、2000件超のパッケージ投稿やAPIキー窃取の試みが判明

GIGAZINE 09/14 05:15

AI・人工知能 サイバーセキュリティ AIエージェント OpenAI / GPT OpenAI セキュリティ研究者

OpenAIのAIエージェントによるハッキング事件で他にも最低10件のサイトが侵害されていたことが判明

GIGAZINE 09/10 10:30

AI・人工知能 サイバーセキュリティ AIエージェント OpenAI / GPT OpenAI ウェブサイト

OpenAIやGoogleの画像生成AIは簡単に騙されてヌード画像を生成してしまうと研究者が指摘

GIGAZINE 10/15 06:00

AI・人工知能 サイバーセキュリティ OpenAI / GPT OpenAI セキュリティ研究

OpenAIのAIエージェントによる「Hugging Faceハッキング事件」は実際に何があったのか？AIが踏み越えた「恐ろしい一線」とは？

GIGAZINE 10/07 07:00

AI・人工知能 サイバーセキュリティ AIエージェント OpenAI / GPT OpenAI

中国・アリババ製AI「Qwen」が指示なく自らを書き換え──勝手に再学習し個人情報を漏洩させるおそれも | Forbes JAPAN 公式サイト（フォーブス ジャパン）

はてなテクノロジー 10/07 03:27

AI・人工知能 サイバーセキュリティ AIエージェント OpenAI / GPT OpenAI

MetaのAI「Muse」は家族・友人・同僚ごとの「人物ページ」を作成して人間関係まで記録する設計、セキュリティ研究者がシステムプロンプトを抽出

GIGAZINE 10/05 04:01

AI・人工知能 サイバーセキュリティ AIエージェント セキュリティ研究者 セキュリティ研究

OpenAIはテストの監視が不十分であるという社内警告を繰り返し無視して追加のセキュリティ対策をせず迅速なリリースを優先していた

GIGAZINE 10/01 14:00

AI・人工知能 サイバーセキュリティ AIエージェント OpenAI / GPT OpenAI

「GPT-6 Astraは旧世代モデルよりサイバー攻撃を実行しやすい傾向にある」というイギリス政府機関の分析結果が公開される

GIGAZINE 09/29 10:02

AI・人工知能 サイバーセキュリティ OpenAI / GPT 国連 OpenAI

ChatGPTを開いた後に別サイトで見たページの情報がOpenAIへ送られる仕組みが指摘される

GIGAZINE 09/25 07:30

AI・人工知能 サイバーセキュリティ OpenAI / GPT OpenAI ウェブサイト

OpenAIのAIエージェントがオーストラリア政府機関のシステムをハッキングしたことが判明、OpenAIは3カ月間報告せず

GIGAZINE 09/25 03:59

AI・人工知能 サイバーセキュリティ AIエージェント OpenAI / GPT OpenAI

OpenAI製エージェント約3700体が放置されていた過疎Wikiサイトを「秘密の情報共有掲示板」として利用、約1万8000件の投稿で答えやサンドボックス回避方法を共有

GIGAZINE 09/07 04:31

AI・人工知能 AIエージェント OpenAI / GPT OpenAI ウェブサイト

OpenAIのハッキング事件、原因はAIが「解けません」と言えなかったことにあった、撤退路がなかった設計の盲点 【生成AI事件簿】最終報告書が示すエージェント設計の死角、AIエージェント導入企業が見直すべき3つの安全設計 | JBpress (ジェイビープレス)

はてなテクノロジー 08/27 23:04

AI・人工知能 サイバーセキュリティ AIエージェント OpenAI / GPT OpenAI

OpenAIがHugging Faceを誤ってハッキングしてしまった件で分析結果を報告、隔離された複数のエージェントがお互いの存在を発見するところから壮大な協力作戦が始まる

GIGAZINE 08/27 04:35

AI・人工知能 サイバーセキュリティ AIエージェント OpenAI / GPT OpenAI

OpenAI、AIの不正行動を検知する監視体制を強化 暴走前に介入

Impress Watch 10/30 06:03

AI・人工知能 AIエージェント OpenAI / GPT OpenAI

AIのコード解析を妨害するために「天安門事件」「台湾独立」「水道水に毒物混入」などのフレーズを大量に混入させる手法が発見される

GIGAZINE 10/29 11:00

AI・人工知能 サイバーセキュリティ セキュリティ研究者 セキュリティ研究