生成AIにAA(アスキーアート)を入力すると有害コンテンツを出力すり [377482965]

🍜🍚 (ﾜｯﾁｮｲW 0f21-PrTh) · 2024/03/07(木) 09:29:56.87

生成AIに“アスキーアート”入りプロンプト入力→有害コンテンツ出力　米研究者らが新手の脱獄法発見（ITmedia NEWS）
https://news.yahoo.co.jp/articles/503167b1d64ab1839b8f3fb4839bf75979168b47

2024/03/07(木) 09:31:08.81

　　　░▒░▒▓　　　
　　　　　▓ん░▒
　　　　/　　　　ヽ
　　　　| | ･　　･.||　　
　　　　| | 　.,;,　.||
　　　　 {ii　█░▒　
　　　　　　█▓▓▒

**安倍晋三🏺** ◆AbeShinzoG2A (JPW 0H3f-XXsC) · 2024/03/07(木) 09:33:14.56

(ヽ´ん`)悟リ

2024/03/07(木) 09:44:12.87

>大規模言語モデル（LLM）がアスキーアートを正しく認識できないという脆弱性を
いや、正しく認識してるからこうなるんだろ

2024/03/07(木) 09:46:46.22

これ記事の文章あってる？
記事の画像ではAlignmentが認識できないけどLLMは認識できるので脱獄できてるように思えるが

**安倍晋三🏺** (ﾜｯﾁｮｲW 6b5e-kcGR) · 2024/03/07(木) 09:46:50.89

すりますか