【AI】ジェネレーティブAIが抱える問題を浮き彫りにする「1本のバナナ問題」とは？ [752644586]
■ このスレッドは過去ログ倉庫に格納されています
Stable DiffusionやChatGPTなどのジェネレーティブAIが登場したことによって、誰でも簡単に文章や画像を作成できるようになりました。IT系ニュースサイト・Digital Scienceのダニエル・フックCEOが、画像生成AIを使用した時に遭遇した「1本のバナナ問題」から、ジェネレーティブAIが抱える問題に言及しています。
フック氏は「ジェネレーティブAIの問題のひとつとして、AIの内部で何が起こっているかを理解することはほとんど不可能ということです。TCAVのように、より深く洞察しようとするアプローチもありますが、人間の脳と同様に深層学習アルゴリズムの内部で起こっているプロセスを完全に理解することはできません」と述べています。
https://gigazine.net/news/20230716-generative-ai-the-lone-banana-problem/ exstream detailed, <lora:1banana:1.0>1banana 一本のバナナ問題
AIに1本のバナナを指定するとバナナを2本描いてしまう
これはAIの学習データの中に複数本バナナが写っている画像ばかりがあるからであるとする問題
追加学習で容易に修正されるのでこの説を提唱した奴はAI語りたがりおじさんの一種といえる だから剥いてから使うなってアレほど言ったじゃないか！ バナナに限らず、鳥も車もまともに生成できないよ
ちゃんと使おうとするとかなりポンコツ いや、どんだけ2本のバナナ画像出回っているんだ？ってことか
それよりは
6本指の画像がないのにAIは指を多く生成する
と言った方がわかりやすいだろ この問題より劣化して90%位の出来のAI生成物が溢れて
それを学習元とする事で成果物が劣化する事の方が問題だよ >>39
こういう色んなことを議論していって解決策を模索していくのが大事かもしれない
もしかしたらジェネレーティブAIに数の概念を学習させる方法が作られるかもしれない 現時点の画像系の生成AIは、画像とそれに対応する文書の対応のパターンをひたすら学習してなので、
数という抽象化された概念は無く正確に数で指示をすることは出来ないのでしょう 概念消し追加学習とか取り組んでるからどうとでもなるんじゃないの？
知らんけど 人間の指の数がおかしいのと同じ問題なんだろうな
AIは意味を理解しているわけではなくて学習済みの「よくある」画像に似たものを出力してるだけだから
バナナ一本だけの画像を大量に学習しないと「一本だけのバナナ」が出てこないわけだよね
逆に言えば学習さえ進めばいつかは解決しそうでもある 1本か複数本かの区別はあるんじゃね？
難しいのは2本のバナナだろう
普通描くのは3本以上だろうから 灰色の背景に影を落としている1本のバナナ
で普通に一本のバナナが出力されるよ >>50,51
【朗報】ゲイツのAIはバナナ問題を解決していた >>45
>>49
1girlと9+girlと意味わからんことは学習している
数字の概念は一応あるみたいだ 例えば腕1本のヒトデなんてほとんどの人は見たことないけど指示されれば描けるだろう
AIは腕一本のヒトデを描けるのだろうか しょーもねー
2本出して1本消せばいいだけだろ
ポン出し厨しか悩まない問題 >>54
1girlとタグづけられた一人の女の子だけがいる画像と
X+girlsとタグづけられた(略)を学習していても
文の意味をチャットAIのように噛み砕いているわけではないから本当は数を理解していない
もし複数人が写っている画像に1girlとタグをつけて大量に学習させれば「1girlとは女の子が複数いる絵」と学んでしまう 数字込みでタグ打ちがちゃんとされないってだけで
学習データを数まで含めて整備したらちゃんと出るよ なんか凄いこと言ってるように見えてただ学習データが足りてないってだけだろ
1年後には消えてる問題 中で何やってるか分からないから「AIが学習して描いてる」って思っちゃうけど
実際は「AIが学習データ（素材）を切り貼りや加工して描いてる」だけだと俺は思うんだな
グランツーリスモやフォルツァ、PSO2にあった図形で絵を描いていくやり方を複雑にした感じ ■ このスレッドは過去ログ倉庫に格納されています
