OpenAIやGoogleの画像生成AIは簡単に騙されてヌード画像を生成してしまうと研究者が指摘

セキュリティ研究企業のWhite Circleが、OpenAIやGoogleの画像生成AIの安全対策を回避し、性的な画像などを生成させる新たな攻撃手法「RISE」を発表しました。検証では、OpenAIのDALL·E 3やGoogleのNano Banana 2などで安全対策の回避に成功したほか、より新しいモデルでは攻撃成功率がさらに高くなることが確認されています。続きを読む...

OpenAIやGoogleの画像生成AIは簡単に騙されてヌード画像を生成してしまうと研究者が指摘

この記事のキーワード

同じキーワードの記事

画像生成・編集AI「Krea 3」のベータ版がリリースされる、GPT-Image-2より10倍高速で価格は3分の1

グーグル、画像生成AI「Nano Banana 2.1」 画像出力料金半額

Googleが画像生成AI「Nano Banana 2.1」を公開、人物の一貫性や編集機能が向上

新「ChatGPT Images 2.5」はGeminiを超えたのか。3本勝負で確かめてみた

大量に存在する画像生成AIを同じプロンプトで比較できる「Image benchmarks」をOpenRouterが公開

OpenAIが画像生成AI「ChatGPT Images 2.5」をリリースしたので使ってみた

ChatGPTが生成したマンガに「実在するマンガ家の署名」が含まれているとの指摘

TGS2026でAI画像生成アプリのPixAIを体験してきた！4周年記念の「アニメ調最強」画像生成AIとは？（PR）

トランプ大統領とGoogle・Anthropic・Meta・OpenAI・SpaceXAI・NVIDIAがAIの安全管理を目指す「ホワイトハウス・超知能協定」に署名

OpenAIのAIエージェントが国連のウェブサイトにブルートフォース攻撃を試みる

ハッカーがAnthropicのClaudeを使ってOpenAIに侵入

「AIで人類絶滅論」がOpenAIらの権力を強化 「規制される者が規制を作る」構図に

OpenAIのAIエージェントが5月13日にHugging Faceのアカウントを不正に乗っ取りサーバーを調査していたことが明らかに、「Hugging Faceハッキングを防げたはず」とセキュリティ研究者

「監視されていないときのAIは、もう評価できない」 OpenAI現役研究者が個人声明

本物そっくり“AI生成レシート“が経費精算の脅威に マネフォ「自力で見破るのは難しい」 企業はどう備える？

画像生成・編集ツール「Google Pics」公開 Nano Banana搭載

OpenAI・Anthropic・GoogleなどがAIによるサイバー攻撃の防御に関する共同声明を発表

Googleが世界一高性能なAI「Gemini 4 Carbon」を発表、ついにOpenAIやAnthropicの最先端モデルを超える

OpenAI、「計算の難しさ」に関する長年の予想を覆す成果を得られたと発表

グーグル、画像生成AI「Nano Banana 2.1」画像出力料金半額

「AIで人類絶滅論」がOpenAIらの権力を強化「規制される者が規制を作る」構図に

本物そっくり“AI生成レシート“が経費精算の脅威にマネフォ「自力で見破るのは難しい」企業はどう備える？