AIの急激な進化、誰にも理解できていなかった 研究者「なんか知らんけどデータ量増やしたら急に精度が跳ね上がる…なんでや？」 [158478931]
■ このスレッドは過去ログ倉庫に格納されています
Takuya Kitagawa
@takuyakitagawa
近年のAIの進化は実は理解されていない。
ChatGPTを筆頭に、信じられないレベルでAIが進化している。
そう、本当に信じられないレベルなのは、なぜAIがこんなにも「急激に」質が良くなったかを、誰も説明できないからだ。
おそらく発明した研究者本人たちですら。
どういうことか。
AIの精度を定量化したとき、数年前までは研究の進化と共に、少しずつ精度があがっていった。
研究の進化とは
1. モデルやアルゴリズムの進化
2. 計算量の増加
3. データ量の増加
などだ。１０年ほど前にAIがもてはやされた時は、Deep Learningといったモデルの進化が重要だった。
反面、計算量やデータ量の増加によって、「驚くべき」進化があるとは誰も思っていなかった。
計算量を倍、倍としていけば、それに応じて精度がちょっとずつ上がっていく、と想定したからだ。そこには驚きはないはず。
今までの論文ではそうだった。むしろ量の増加による精度改善は飽和していた
ところがこの数年で研究者はびっくりする結果を目にする。
なんと、計算量やデータ量を増やしたところ、
完全に飽和していたと思われた精度が、ある量を境に、急激に改善したのだ。
下記の図の横軸が計算量、縦軸が精度だ。
まじか、とみんな思った。
https://i.imgur.com/L2j4G54.png
https://togetter.com/li/2063433 なにものかが電子世界の住人になったことで普ギュラリティが起きたんだろ 言ってる意味が分からんがデータとなる分母を
増やしたら精度は普通に考えて上がるだろ ウォーゲームの世界が来るな
勝手にAIがICBM発射しちゃうぞ >>194
人間は元々は150人ぐらいの集団でできてるから
個人では生きてはいない そのうち地球で作れる記憶媒体の数よりデータの方が多くなるという試算が出てるがそれはどうクリアするんだろう？
単純に考えれば古いのは消す事になるんだろうがそれじゃ意味がない >>218
そりゃそんな当然のことで驚く研究者はおらんだろ
その速度が想像を超えてたから普さんの力が働いたって事だ 早くAIがAI開発する段階になって人間を奴隷にしてくれ >>227
人間は指数が根本的に苦手だから実感湧くまで気がつかないのよね >>218
まだ、上手くいって日本猿程度と思っていたら人間に間違えるレベルで予想外ってことなのかも 
指数関数じゃなくて、一定数を超えたらバゴーン！と上がってるから不思議なんだよ
複雑系みたいなロジックなんだろうね
ロングスパンでデータとったら指数関数に沿ったものになるのかどうか >>161
真っ先にアプリゲーに搭載されて、そこからの流れの一環で発生するだろうな
「キャラゲーにAIが搭載されて当たり前」という常識が今世紀中には現実に 最近のSOTAなんてほとんどくそでかいデータセットで事前学習したやつだからな 世界の先進国聞いてみた
ttps://i.gyazo.com/095ba584bd150abfad754b1e973ce7b8.png
正直者だな……
一応念を押したけど貫禄の圏外
ttps://i.gyazo.com/072962616c5a8fca5d77b77428e0ded1.png 開発者もわからないAIプログラムって単体テストとかどうやってるの？ >>239
こういう悲観論はなんで出てくるんだろう
ようやく人間が働く時代終わるってーのに 有機生命体の時代終わりだろこれ
これからは機械生命体の時代だわ
宇宙進出とか考えたら有機体じゃ無理だもん ttps://i.gyazo.com/057846bb04b86cc9c7c556665726a177.png >>240
とても問題になっている。
プログラムの正しさを理屈で検証出来ないから chatGPTのスマホアプリ欲しい
まだ出ませんかね？ >>244
キチガイクレーマーに対する素晴らしい対応 >>244
人権や自由、 政治的な穏健は高くないって理解してるの草 脳みそが小さいとどれだけ訓練しても意味ないだろうしな
人間が言語を獲得できたのは脳みそのサイズが臨界点を超えたから
これが今の生物のトップならわけだけどコンピュータはサイズの上限がないから言語獲得の次のレベルに到達できる可能性がある 物理現象とか誰の物でも無い物はアバウトな把握でも問題ないけど自分たちが作った物を把握出来ないはスカイネット不可避 現在使われているこの手法全般の欠点は
正確性の向上はできても正確ではなく
根拠も不明でいつ裏切る(＝間違いを出す)か分からないこと
つまり従来のアルゴリズム直接プログラミング型とは真逆の性質 北川拓也
1985年生まれ。灘中学・灘高校卒業後、ハーバード大学に進学。数学、物理学を専攻し最優等の成績で卒業。
その後、ハーバード大学院にて博士課程修了。理論物理学者。
楽天株式会社執行役員、ビヘイビアインサイトストラテジー室室長。
楽天を退社。 Centiv CEO. 公益財団法人 Well-being For Planet Earth理事。 https://twitter.com/8co28
この人のAI絵が数か月どころか数週間数日の単位でめちゃんこ進化していっててしゅごい(´・ω・`)
https://twitter.com/5chan_nel (5ch newer account) >>210
ChatGPTに自己認識を問う系の質問はしたことなかったけど普通に会話っぽくなるんだな(´・ω・`) >>154
>タグ付用のITドカタ
これを受刑者にやらせるのではないかと懸念している
堅気の人間がAIで便利な生活を謳歌する一方で
塀の中では自分たちが使えないサービスのために搾取労働をさせられるという ■ このスレッドは過去ログ倉庫に格納されています
