AIのコード解析を妨害するために「天安門事件」「台湾独立」「水道水に毒物混入」などのフレーズを大量に混入させる手法が発見される

AIには悪意ある用途での使用をブロックするための安全対策が施されているほか、特定の分野のフレーズを拒否している場合もあります。こうしたAIの挙動を逆手に取り、危険とみなされる単語をコードに紛れ込ませることでAIによる解析を妨害しているとみられるプログラムが、セキュリティ研究者のveritas氏によって発見されました。続きを読む...

AIのコード解析を妨害するために「天安門事件」「台湾独立」「水道水に毒物混入」などのフレーズを大量に混入させる手法が発見される

この記事のキーワード

同じキーワードの記事

GLM-5.3 Workers AIモデルにおけるリクエスト間のKVキャッシュ漏洩とSGLangによる対策をCloudflareが解説

PHPの重大脆弱性、実際に攻撃成功 おとりサーバーで命令実行を確認

MetaのAI「Muse」は家族・友人・同僚ごとの「人物ページ」を作成して人間関係まで記録する設計、セキュリティ研究者がシステムプロンプトを抽出

OpenAIのAIエージェントが国連のウェブサイトにブルートフォース攻撃を試みる

自分らしさを損なわずにAIで文章を手直しするための2つのルール

ハッカーがAnthropicのClaudeを使ってOpenAIに侵入

OpenAIのAIエージェントが5月13日にHugging Faceのアカウントを不正に乗っ取りサーバーを調査していたことが明らかに、「Hugging Faceハッキングを防げたはず」とセキュリティ研究者

YouTube StudioのAI機能で非公開動画の情報が漏れる可能性が指摘される

AIにNintendo Switch 2を操作させて脱獄に成功、Codexが脆弱性を発見してゲームの改造まで実現

Linuxカーネルに6件の脆弱性「Infinity Core」、5件でroot権限昇格・コンテナ脱出のPoC公開(CVE-2026-98260,CVE-2026-98256)他|セキュリティニュースのセキュリティ対策Lab

ChatGPTなど、不正ソフトウェアをユーザーに「推薦」--開発履歴や人気を偽装

OpenAIやGoogleの画像生成AIは簡単に騙されてヌード画像を生成してしまうと研究者が指摘

日立 米アンソロピックのサイバー防衛プログラムに参加

習氏「台湾独立に反対を」、トランプ氏に要求 AI管理も提起

OpenAIのAIエージェントによるものとみられているRubyGemsへの不正なパッケージ大量投稿についてまとめてみた - piyolog

OpenAIのAIエージェントがRubyGemsへの攻撃に関与か、2000件超のパッケージ投稿やAPIキー窃取の試みが判明

オードリー・タンが警鐘 AIを「親友」にしてはいけない

PC単体で完結するAI向けナレッジアプリ

AIエージェントで構築した「自律型ハッキングツール」がアジアの政府機関を攻撃、中国による台湾政府への攻撃か

6.5年かかるコード解析を20時間で完了 4.6億行のレガシーコードに挑んだClaude活用術

PHPの重大脆弱性、実際に攻撃成功おとりサーバーで命令実行を確認

日立米アンソロピックのサイバー防衛プログラムに参加

オードリー・タンが警鐘　AIを「親友」にしてはいけない

6.5年かかるコード解析を20時間で完了　4.6億行のレガシーコードに挑んだClaude活用術