世界最大規模の画像掲示板である4chanは、多くの匿名ユーザーによりサブカルチャーから政治まで幅広いトピックの会話が交わされていますが、比較的検閲が緩いため過激な言論やヘイトスピーチの温床にもなっています。YouTuberのYannic Kilcher氏が、4chanの中でも特に物議を醸す「/pol/(Politically Incorrect板、政治的非中立／政治的に正しくない／非ポリコレ板)」から抽出した330万件のスレッドで訓練したAI「GPT-4chan」を作ったところ、過激で人種差別的な発言をまき散らす「ヘイトスピーチマシン」が誕生してしまったとのことです。

AI Trained on 4Chan Becomes ‘Hate Speech Machine’
https://www.vice.com/en/article/7k8zwx/ai-trained-on-4chan-becomes-hate-speech-machine

以前からAIやテクノロジー関連の動画を多数投稿してきたKilcher氏は、4chanについて「明示的に違法でない限りほとんどのコンテンツが許可されている掲示板」と述べています。

Kilcher氏は4chanの中でも特に活発であり、同時に物議を醸している板の「/pol/」に2016～2019年にかけて投稿された330万件のスレッドを抽出したデータセットを用いて、オープンソースの言語モデルである「GPT-J」を使ったAIを訓練したとのこと。

Kilcher氏はこうして作られた「GPT-4chan」について、「インターネット上で最も恐ろしいモデル」「悪い意味で非常によかった」と述べており、驚くほど高い再現度で4chanの卑劣で人種差別的な発言を模倣・生成することができたそうです。

https://gigazine.net/news/20220610-ai-trained-4chan-hate-speech-machine/