SF作家テッド・チャン「ChatGPTとはWebを圧縮したJPEGのようなものだ。コピーのコピーを繰り返して画質はどんどん悪くなっていく」 [203112951]
■ このスレッドは過去ログ倉庫に格納されています
ChatGPTとその模倣プロダクトはテックブームのまさに典型で、昨シーズンのWeb3と暗号通貨相場操縦の後継者と言ったところだ。チャットボットに対する明快かつ刺激的な批評は、SF作家テッド・チャンのこの言葉に集約される。「ChatBotはWebのぼやけたJPEGだ」。
https://www.newyorker.com/tech/annals-of-technology/chatgpt-is-a-blurry-jpeg-of-the-web
ChatGPTと人間の作家のアウトプットの重要な違いをチャンは指摘する。人間の作家の構想は粗雑な表現のオリジナルのアイデアだが、ChatGPTに期待できるのは雄弁に表現されたオリジナリティのないアイデアでしかない。ChatGPTは、Googleの検索結果を押し上げるべく低賃金で働く人たちが大量に生み出すSEOコピーサラダの支援ツールとしては大いに役立つことになるのだろう。
チャンのエッセイでは、ChatGPT4はGPT-3へのあらゆる批判を黙らせるほどに優れているとの誇大広告バブルを喝破したジョナサン・サドウスキーのThis Machine Kills ポッドキャストにも触れている。
https://soundcloud.com/thismachinekillspod/232-400-hundred-years-of-capitalism-led-directly-to-microsoft-viva-sales
OpenAIのエンジニアが次期バージョンにChatGPT3の出力を学習させないようにすべく多大な努力を払っていることをサドウスキーは指摘する。もし大規模言語モデルが人間の作ったテキストと同等の資料を生成できるのなら、なぜChatGPT3の出力をベースにChatGPT4を作れないのか、という矛盾だ。
サドウスキーは「ハプスブルグAI」という絶妙な表現でこの問題を説明している。近親交配の末に王家が断絶してしまったように、前のモデルの排気を新しいモデルに吸わせ続ければ、ただでさえ荒れ狂うナンセンス・スパイラルは一層悪化し、最終的には自分のケツの穴から消えてしまうことになるのだ。
https://p2ptk.org/monopoly/4347 AIがAIから学習して馬鹿になるって話をおしゃれに言いたかっただけ 英語はわからんけど日本語はまだ日本語自体に少し違和感がある
マイナー言語だからこのまま解消されない気もする >>1
おれはそう思わなかったぞ
ChatGPTと会話を続けて
人にとって大事なのは正確な情報じゃないんだと気づいた
頑張って質問に答える姿勢が良い
それが嘘だとしても気付くし、気付かなくても自分なりの答えが自分の中から生まれてきた
つまり―――真実が大事じゃないから、世の中に真実が全然ないってことに気付いたんだ 「Googleの検索結果を押し上げるべく低賃金で働く人たちが大量に生み出すSEOコピーサラダの支援ツールとしては大いに役立つことになるのだろう」
検索上位がAIが書いたものに埋め尽くされて、
人間が書いた文章が貴重品になるんやろな 人もコピーのコピーばかりでバランス調整をちょと変えただけ
劣化するとしたら受け取り側の人の感性で、SNSなど自分の都合のよい情報しか目を向けなくなる AI自身は嘘の情報か本当の情報か判断できないしな
そもそも嘘ってなんだ？みたいな哲学的な話になりそう 学習データがまとめサイトで、そのまとめサイトもAIのまとめを転載するから凄まじい勢いで劣化して白痴になるのは明らかだな
クソサイトから学ばないことを祈る 人間の創造力がすでに枯渇してて既存概念のコピーしか生み出せないからな
そうなるとAIの方に優位性があるのは明らか まあ人間も又聞きや聞きかじりの内容で発言するし
ソースちゃんと引用できるだけマシだよ そもそも人間自体この程度のパターン認識で今まで生きてきたってことなんだよね Ted Chiangが「chatbotはwebのぼやけたjpg」と発言したことについては、個人的には異なる意見を持ちます。
一方で、現時点では、チャットボットの技術がますます進歩しており、AIの応用によってより高度なチャットボットが開発されているため、完全に不正確であるわけではありません。
ただし、チャットボットが完全に人間の言語理解を模倣できるわけではなく、人間と同じように文脈や感情を理解し、それに適した返答をすることはできません。そのため、チャットボットの返答はしばしば誤解を招いたり、不適切であったりすることがあります。
また、チャットボットが人間と同じようにコミュニケーションを行うことを期待することは適切ではありません。チャットボットは、あくまでも情報を提供するためのツールであり、人間同士のコミュニケーションを完全に代替することはできません。
総じて、Ted Chiangの発言は、チャットボットの限界を指摘する上で一定の意義があると考えますが、すべてのチャットボットを否定するわけではなく、技術の進歩や適切な使用方法についても考慮する必要があると思います。 ハプスブルグ家とはよく言ったもんだ
一見キレイでブランド信仰のあるものがそれゆえに遺伝性の病で劣化していくのかもしれんな なんか言ってること変じゃね？
うまいこと言ってるつもりなんだろうが...
新しいテックの過渡期であるということを理解してるのかな？ ある意味ではAIのべりすとのほうが優れてる
算数できないとかすぐ新キャラ生やしてボーボボみたいになるとか
ぽんこつかわいい あー、やっぱJPEGのコピーって繰り返すと画質落ちちゃうんだ… 現状はそうだろうけどすぐにその状態を抜け出すよ
イラストAIも最初は手が書けないとかバカにされてたがもうその次元はとっくに超えた
進歩の速さが尋常じゃない AIにも遺伝的要素ぐらい含められるだろ？世代交代していけば進化するよ
ただそうなるとターミネーター的な世界もありえるが まさにこれだわ
最初は一瞬騙されるよな
AI自身が思考していると錯覚する AI産が溢れてオリジナルが埋もれるもんな
検索上位にSEO対策バッチリのゴミサイトが並ぶのと同じようになるかもしれん ネットからじゃなくて 人の高画質の画像データからが画像を生成しはじめたらやばいことになると思う
まだ始まったばかりだから、これから専門性が乗っかってくる チャットボットに過大な期待をしすぎだよな
俺は晩御飯の献立とかを広く浅く回答してくれることを期待している 「そらそうだよな」ってことしか言わないよな
だから普段から「そらそうだよな」ってことしか言わない人間は価値無くなったと思う
どっかでみたことあるような絵しか描けない絵師が困ったのと同じだよな ChatGPTは言語処理を学習したモデルなのであって
ネットソースをDBとしたものから自動でまとめ記事を作ってるだけだから
SEOデータで中身が希釈されてるのはまあそうなんだと思う まあそうだよね、と思うようなことしか説明してこないから本当にそう思う
現状はまとめブログの記事の劣化版生成機
ただ使い方次第だとは思うけどね 昔のアキネーターみたいだな
そこから繋がる？ってのが多かったのに 新しい視点とか考察が一切ないからな
マジモンのごみ
アフィブログ読んでるのと変わらん
変態RPするぐらいしか用途がない わかる、これからは
AIが生成した嘘やソースなしのゴミ情報がネットにまん延し、それをAIが情報源にするっていう負のループが問題になる >>51
そもそもGoogle検索がSEOで混乱してるからChatGPTが流行ってるんだったw >>8
あんま関係ないけど患者の訴え完全無視するヤブ医者にあたってそう思ったわ
向き合う姿勢がないと何事も駄目 言葉や知識量、ロジックを単なる画像と比較するのはどうなんかねえ
作家のくせに比喩が下手じゃないか >>52
原文に書いてあるけどテッド・チャンはchatGPT4ではAIの書いた文は取り込まないアルゴリズム組み込んじゃないかって予想してる
結局AIの信用できない文から無駄に学ぶと情報が劣化するし >>29
自分でイラストAI使ってたら
「イラストAIも最初は手が書けないとかバカにされてたがもうその次元はとっくに超えた」
なんてイキれないだろ
いまだに手が描けないのは変わってないのにごくたまに出力される都合のいいサンプルだ見て
自分でAI使わない情弱がもうAIは手を克服したんだと勘違いしてるのが現状 その汚いJPEGが普通に業務で使われているから価値があるんだが この人の短編集物凄く面白かったけどそれ以降何か書いてんの？ googleやらBingみたいな検索システムのインターフェースが変わっただけ カルトやヲタク同士でお互いに語り合ってもこじらせて世間とは異質な物になるのと同じ 施設の見学レポート書かせたら充分だった
ちょいと事実をまぶして修飾すると完成した >>60
めっちゃ寡作だよこの人
キャリア30年で短編集2冊だけ
本業はサイエンスライターらしい >>8
それは君が情報を欲してるのではなく
話し相手を欲してたからだよ だから本を紙で出版することや図書館は重要なのだよね ■ このスレッドは過去ログ倉庫に格納されています
