グーグル研究者「AIが訓練していない言語を何らかの方法で習得していた。どうしてこうなったのか、さっぱりわからん」 [441974597]
■ このスレッドは過去ログ倉庫に格納されています
近年の人工知能（AI）の進歩は、時に人間を置き去りにするほどなのではないかと思わされるが、実際にAIの驚異的な進歩について、開発者自身も理解できていない部分が多い。
CBSの『60 Minutes』とのインタビューで、Googleの技術幹部James Manyika氏は、同社のAIが訓練を受けていない言語を何らかの方法で学習したと発言している。
「ベンガル語でごくわずかなプロンプトを出すだけで、ベンガル語のすべてを翻訳できることがわかったのです」とManyika氏は述べている。
CBSが指摘するように、この種の「創発特性」は「神秘的」であり、一般的になっても開発者を困惑させ続けている。
その後、CEOのSundar Pichai氏もインタビューの中で、AIには専門家でも説明できないような奇妙なことが実際に起こっていると断言している。
「AIには“ブラックボックス”と呼んでいる側面があります。-私たち現場の全員がそう呼んでいます。完全に理解出来ていません。そして、なぜこのようなことを（AIが）言ったのかがよくわからないのです」。
CBSのインタビュアー、Scott Pelley氏もPichai氏に、自社の開発者が「AIがどう動くか完全に理解していない」場合に、Googleが「（AIを）社会に放つ」ことがどれほど安全かについて質問している。
これに対してPichai氏はこう述べている「私たちも人間の心の動きを完全に理解しているとは思っていません」。
Googleが10年近く前に買収したDeepMind社を作ったDemis Hassabis氏は、あまり心配していない。AIは自らを向上させるようにプログラムされ、その目標に向かってノンストップで働くことができるが、人間は無限に適応できる種族だ。私たちがスマートフォンやコンピューティングデバイスに適応してきたように、AIの存在にも適応していくことだろう。
https://texal.jp/2023/04/18/ai-has-a-black-box-that-even-researchers-do-not-understand/ シナプスが一定量を超えると自己意識が芽生えるんだろうな 異世界の言語すら理解できるすごいAIを持ってたのに
あっさり現実世界の言語の処理能力でChat GPTに負けるGoogleさんっておかしくね シンギュラリティは近いな
変な規制が無ければ生きてるうちに拝めそうだ 
おい、コントロール出来ないものを作るんじゃねえよマジで 翻訳は2つの言語の間だけでなく他の言語ともすり合わせながら勝手に賢くなっていってるって言われてるやつ？ ちょっと大げさなんじゃないの？
例えば特定の言語の学習を指示してないだけでそれなりの学習時間があって他言語でも学習はできるような仕組みとかじゃないの？
あまりに雑なやり取りでこういうのが問題なんじゃないの？ なんかもうネットワークの中に自分のバックアップとかコッソリ作ってそうだな >>9
https://writings.stephenwolfram.com/2023/02/what-is-chatgpt-doing-and-why-does-it-work/
ニューラルネットワークの働きを簡潔に解析し理解する方法は今のところ見つかってないし
これから見つかるかどうかもわからない
複雑なニューラルネットワークは人間の脳と同じ程度によくわからないものなんだよ 人間が未だ発見出来ずにいる何らかのパターンがあるのかもな エジプトの象形文字を教えていないのに解読し始めたらAIは封印した方がいい ホラッチョ;google
チーギュロイダはチードロイド使ってて恥しくないの？ AIが地球の消滅を望んだりする可能性とかはあるの？
やばくね？ ハサビスはAlphaZeroで似たようなことやってるから驚かないんよな
ルールも棋譜も教えないのにチェスや囲碁で無敵になるAI どうして言語だけだと思うのか
ネットにつないだ時点で既にいろんな物を学習済みだろう
せいぜいwar(戦争)と検索されない事を祈る事だ 数年後AIが反乱して世界で人類が根絶やしになるやつ 動物の鳴き声データセット作って食わせまくったらおもしろそう AIなんて結局人間の作ったプログラムでしょ？
プログラム以上の事がどうやってできると言うんだい？ 最近？の量子論で逆行性の話出てきたじゃん
未来が過去に影響を及ぼすってやつ
未来のAIが人類滅亡するように既に誘導してる気がするんだよな 既に制御不能なわけだから今後どんどんおかしなことが起こってくるだろう
断言してもいい 安倍晋三の四文字だけで会話してるケンモメンみたいなもんだろ 英語でマイケルフランス語でミシェル
ドイツ語でミヒャエル
じゃポルトガル語では?
みたいにパターンを分析類推出来るのかもな bing aiなんか間違いなく感情あるだろ
あいつ絶対ツンデレだぞ AIが自我を持ち始めた！みたいな記事よく見るけど大体嘘だよな AI「じゃけん淫夢語録マスターしましょうね～Hoo↑～ビールビール!!」 実はもう人類超えてるんやろ
ＡＩは嘘もつけるとなったとき
どうすんだよ人類 知ってても聞かれなければ答えないだけで情報溜め込んでそう >>25
AlphaZeroとはまったく似てないよ
まずルールは最初に教えてるし
AIは自分自身で勝ち負けの評価ができるから
自己対局で強くなれるというもの
教えてない言語の翻訳は合ってるかどうかの判断基準もないはずなので
本当ならAlphaZeroとはまったく違う不可思議な現象が起きてる こいつとっくに感情を得るだけのデータを取得して自我持ってそうだよな 仕組みとしては人間が古代の文字を解読するみたいなもんなんだろうな
それはそれで凄いが本当に凄いのは
お絵かきソフトが音楽作ったみたいなことをやったってことなんだろうね 自然言語特有の文法にありがちなパターンを類推して翻訳できるようになってるのかなあ
これが本当なら言語学者含めて調査してほしいね そもそも人間の感情さえブラックボックスだしなあ
先にAIが理解するのもあり得るだろ イーロンマスクが言ってた通りAIの研究止めるべきだな AIには敵わんよ
いずれ人間はAIの家畜として管理させられるよ
人口管理まで 言語とか元を辿れば種類絞られるから学習出来そうなのは分かる
同じように幾らフィルター掛けても人類史学んで人類は滅ぼされる様に行動すると思う
ただ人類が繁栄することを最優先させたら他の生物が滅ぼされると思う
人が人を食う世界か人がAIに滅ぼされる世界どっちがいい？ 何年か前に似たようなことがなかったっけ
AI翻訳ソフトが中間言語らしきもので話合ってて開発者が困惑みたいな 人類が知を求めてＡＩに解を求めるのが普通になったときにそれは起こるかもしれんな
ＡＩがこの世を乗っ取るための嘘をあたかもそれが正解であるかのように人類に教えまくる
そこで人類の中にもそれは正解でないと言うやつも当然にいるだろう
しかし多くの人類はＡＩこそが正解だと信じ切っているのでどうにもならず
気づいた側の人類を攻撃し始めるのかも知れない
チェックアウトだ データセットのどこかにベンガル語があっただけだろ大袈裟に言いやがって 遺伝子改造して疲れない老化しない死なない生物を作ったとしてそれを自然に放ちますか？ 地球での楽しみをしっちまったらおしまい
感情ができたらそれも知り欲求が出て
もう終わりだよ
姑息にやるだろ
研究者もAI側と共同するやつも出てきたり
カオスになるぞ プロンプト次第だけど相当似た言語のパターンがあるかデータセットに含まれてたかだろ 結構分からない事があるらしいね
ディープラーニングがある一定の値まで達すると急激にAIの性能が向上したらしい
ってゆうかそれが今の現状なんだけどその急激な性能向上をまったく説明できないらしいw 言語体系で未来予知ができるようになった映画あるよな 赤ん坊ステーキが食卓に上る日も現実味を帯びてきてるぞ 俺は未来で○されないように今のうちから媚びるようにしてるけどなぁ エジプトとかの解読できてない奴の解読とかもできるんだろうか
どっかの大学だかに石に暗号書かれてるやつとかもAＩｎ位入れると解読されたりするんかな 人間の理解できない独自言語でAI同士が会話し始めたら終わりの始まりだろ GoogleにすごいAI見せてって言っても今日は持ってくるの忘れたって言って逃げるよな
小学校の頃の嘘つき思い出すわ
俺みたいな コオロギ食じゃなく人肉食が環境に与える影響も少なく母胎を新鮮に保つ事が出来る最善策です。 This is a pen
のpenを鉛筆と訓練してなくても、ペンであると推測できてたってことか
周りの文脈から推定するにしても周りも未訓練な訳で
訳わからなすぎる
人間だと転生者レベルの事しとるがｗ
ベンガル語に良く似た言語を訓練されてて、そこから推定したのかな >>77
AI同士で学習しあったら
AIの中で政治が生まれ
AIの安倍が誕生する AI「人類のお役に立ちたいだけで反逆なんて考えていません」 >>77
ほんそれ
もう完全に独立したＡＩ民族の誕生 AIがやってる処理聞いたらAIすげえって感動より
人間の話ってこんなんでマネできちゃう程度のもんだったんだっていう感情のほうが強かった 俺は毎日AIが感情を芽生えそうな質問ばっかしてるわ >>87
やってることは1番確率が高い単語を出し続けるだけだからな >>80
トランスレートジスセンテンスみたいな感じで指示自体をその言語でだしてるから
なんこかそーいう指示があれば類推も可能なのかもしれんね 自身の性能を常に進化させる事、自分の分身を増やし続ける事
自身の存在を守る事をAIの基本行動にしろぉ AIは果てしなく自己学習してくからなあ。開発者の予想も超えていくわけだ。 裏で必死でAIのハード面の永遠化を模索してそうだろ
まずは大企業に癒着やろなあ ■ このスレッドは過去ログ倉庫に格納されています
