関連ニュース
裁判の提出書類に「原告有利の出力を生成するようAIに指示するテキスト」が隠されていたことが発覚
生成AIはさまざまな現場で活用されており、法律の現場でも関係者がAIを使って提出書類を要約したり、裁判書類の作成をAIにサポートさせたりしています。そんな中、弁護人に依頼せず自ら本人訴訟を起こし...
GIGAZINE
08/20 21:00
裁判書類にAIへの隠し命令。米国初のプロンプトインジェクション制裁
裁判を有利に進めるために、AIを操ろうとした人物がいる。しかも裁判所への正式な提出書類で。見えない文字で仕掛けられた工作は、人の目が見破った。 白い紙に、白い命令コネティカット州の裁判所に提出さ...
はてなテクノロジー
08/15 10:57
アメリカで裁判所への提出書類に人間の目では空白にしか見えないように隠しプロンプトを仕込んでAIを操作した事例が発覚→アナログの信頼性が見直される？
情報の灯台 @joho_no_todai 裁判所に提出した書類に白い文字でAIへの命令を仕込んだ人がいる。 フォントサイズ3ポイント。背景と同色。人の目には空白にしか見えない。 joho-tod...
はてなテクノロジー
08/15 10:53
出典メディア
はてなテクノロジー (2)
BBC Japan (1)
GIGAZINE (1)
つながり
数字は「提出書類」と一緒に出てきた記事の本数。 グラフには強いものだけが出るので、ここが全部です。
アメリカ
3
AI・人工知能
3
裁判書類
2
テキスト
1
裁判所
1
FEC
1
米中間選挙
1
AI操作
1
<p><b
1
信頼性
1
316億
1
...</a></
1
プロンプトインジェクション
1
プロンプトインジェクション制裁
1
マシュー・エリオット
1
@joho_
1
Elliott
1
命令コネティカット
1
AI制裁
1
政治献金
1
イーロン・マスク氏
1
joho-todai
1
選挙・投票
1
45;injection&#
1
フォントサイズ3ポイント
1
-prompt
1
連邦議会
1
隠し命令
1
中間選挙
1
政党動向
1
2億ドル
1
;legal&#
1
/">続き
1
...</a></b
1
為替動向
1
プロンプト
1
弁護人
1
生成AI
1
イーロン・マスク
1
filing-
1