ChatGPTとその模倣プロダクトはテックブームのまさに典型で、昨シーズンのWeb3と暗号通貨相場操縦の後継者と言ったところだ。チャットボットに対する明快かつ刺激的な批評は、SF作家テッド・チャンのこの言葉に集約される。「ChatBotはWebのぼやけたJPEGだ」。

https://www.newyorker.com/tech/annals-of-technology/chatgpt-is-a-blurry-jpeg-of-the-web

ChatGPTと人間の作家のアウトプットの重要な違いをチャンは指摘する。人間の作家の構想は粗雑な表現のオリジナルのアイデアだが、ChatGPTに期待できるのは雄弁に表現されたオリジナリティのないアイデアでしかない。ChatGPTは、Googleの検索結果を押し上げるべく低賃金で働く人たちが大量に生み出すSEOコピーサラダの支援ツールとしては大いに役立つことになるのだろう。

チャンのエッセイでは、ChatGPT4はGPT-3へのあらゆる批判を黙らせるほどに優れているとの誇大広告バブルを喝破したジョナサン・サドウスキーのThis Machine Kills ポッドキャストにも触れている。

https://soundcloud.com/thismachinekillspod/232-400-hundred-years-of-capitalism-led-directly-to-microsoft-viva-sales

OpenAIのエンジニアが次期バージョンにChatGPT3の出力を学習させないようにすべく多大な努力を払っていることをサドウスキーは指摘する。もし大規模言語モデルが人間の作ったテキストと同等の資料を生成できるのなら、なぜChatGPT3の出力をベースにChatGPT4を作れないのか、という矛盾だ。

サドウスキーは「ハプスブルグAI」という絶妙な表現でこの問題を説明している。近親交配の末に王家が断絶してしまったように、前のモデルの排気を新しいモデルに吸わせ続ければ、ただでさえ荒れ狂うナンセンス・スパイラルは一層悪化し、最終的には自分のケツの穴から消えてしまうことになるのだ。

https://p2ptk.org/monopoly/4347