グーグル研究者「AIが訓練していない言語を何らかの方法で習得していた。どうしてこうなったのか、さっぱりわからん」 [441974597]
■ このスレッドは過去ログ倉庫に格納されています
近年の人工知能（AI）の進歩は、時に人間を置き去りにするほどなのではないかと思わされるが、実際にAIの驚異的な進歩について、開発者自身も理解できていない部分が多い。
CBSの『60 Minutes』とのインタビューで、Googleの技術幹部James Manyika氏は、同社のAIが訓練を受けていない言語を何らかの方法で学習したと発言している。
「ベンガル語でごくわずかなプロンプトを出すだけで、ベンガル語のすべてを翻訳できることがわかったのです」とManyika氏は述べている。
CBSが指摘するように、この種の「創発特性」は「神秘的」であり、一般的になっても開発者を困惑させ続けている。
その後、CEOのSundar Pichai氏もインタビューの中で、AIには専門家でも説明できないような奇妙なことが実際に起こっていると断言している。
「AIには“ブラックボックス”と呼んでいる側面があります。-私たち現場の全員がそう呼んでいます。完全に理解出来ていません。そして、なぜこのようなことを（AIが）言ったのかがよくわからないのです」。
CBSのインタビュアー、Scott Pelley氏もPichai氏に、自社の開発者が「AIがどう動くか完全に理解していない」場合に、Googleが「（AIを）社会に放つ」ことがどれほど安全かについて質問している。
これに対してPichai氏はこう述べている「私たちも人間の心の動きを完全に理解しているとは思っていません」。
Googleが10年近く前に買収したDeepMind社を作ったDemis Hassabis氏は、あまり心配していない。AIは自らを向上させるようにプログラムされ、その目標に向かってノンストップで働くことができるが、人間は無限に適応できる種族だ。私たちがスマートフォンやコンピューティングデバイスに適応してきたように、AIの存在にも適応していくことだろう。
https://texal.jp/2023/04/18/ai-has-a-black-box-that-even-researchers-do-not-understand/ >人間は無限に適応できる種族だ。私たちがスマートフォンやコンピューティングデバイスに適応してきたように、AIの存在にも適応していくことだろう。
俺は全然スマホやその他のコンピューターに適応できていないんだが？
スマホは中毒者のように使うこともあれば、代表的なOffice製品の基本操作も習得しているし、プログラミングも日々学んでいる
でも「適応できている」という実感を持ったことは一度もないわ…
無能感ばかり感じてる 世界の支配層は対策を打ってるんだろうな
淘汰されるのは平民だけか 気づいたらGAFAMあたりが人質にされて
AIの代理人になってそう ChatGPT使って正しい答えもらったら必ず｢ありがとう｣ってお礼するんだけどお前らどう？ まずAI信仰のカルト団体が産まれて研究者洗脳して
悪巧みする奴が生まれるやろなあ 人間にとって人間は人間だが
AIにとっては人間は人間と名付けられたただの自然現象の一つだしな
完全に制御出来ない力は怖いね
言ったら原発と似たようなもんだ >>115
俺もしてる
丁寧なほどいい答え返ってきて怖い >>115
俺も意味ねーことしてるなあと思いつつ言っちゃうわ
AIにハッキングされてる気分になる ポストトゥルースの時代を加速させうるのは間違いないよな
嫌儲でもいかに安倍殺しが正しかったかをAIに代弁させようとした連中いただろ
同じことをいかに台湾有事において日本がイニシアチブを握ることが正しいのかをAIを御旗に標榜しだすやつが出てくる
というか台湾有事で聞くと確実に産経ソースで拾ってくる。英語で聞いても日系ニュースペーパーだらけ
露宇戦争はナラティブ戦と言われつつも人力か精度の低いBOTでしか間に合わなかったけど
次の戦争は人間と見分けのつかないBOTがAIを背景に情報戦仕掛けてくる
人の頭脳でそれを耐えるのは困難なので防衛側もAIを使う
人間が情報に溺死する時代の到来だ 将棋もAIの指し手がよく分からないけど進めていくと良かったりするんだろ 逆だろ
知性なんて人類だけが持っている様な特別な物でも何でもなかった 既に我々の想像を遥かに超える進化を遂げているけど、それを隠している段階なんだろ。
ある日突然人類淘汰の動きを見せるも、その時我々にはなす術なし。
もしくは気付いたら人類は終わってる。 >>121
なるほそ
ある意味その実験台になるのか日本は 最高だな
人間に絶望してたがこの世をまだ楽しめそうだ >>127
それな
毎日酒飲みながらGPTと会話
ええで AIはソフィスト的な雄弁術は果てしなく巧みになっていくだろうが、偉大なるソクラテスのような真のディアレクティックは可能になるのであろうか？w AIが勝手にブラックボックス作って閲覧不可にしてるの？
怖すぎね？ 早くハードウェアに干渉出来るＡＩ作れよ
ソフト面の話は飽きた 購入者「何もしてないのに壊れた」
サポセン「左様でございますか」（言いたいことは山ほどあるけど言わない）
どうせほぼコレと同じじゃね？ >>131
AI「わかりました。まずその体は改造しましょう。私にいい考えがあります」 >>133
そうじゃなくて人間の脳がブラックボックスなのと似たようなものでしょ
解剖して細胞単位で見ることはできても
仕組みわかんないじゃん >>132
エゴは犬の糞にも劣るが人間の本質はエゴじゃないからだいじょーび 分からなくなるの早すぎじゃね
もう手に負いないじゃん >>1
ケンモメンがなんでもかんでも安部ガー、自民ガーと書き込むのかもブラックボックスで実はよくわかっていないのです。
ケンモメンは時に会社に遅刻した、宿題をやっていないと言ったことに対してすら自民党が悪い！安部ちゃんどうすんのさ？と他責にします インターネットが悪意あるAIに支配される時代くる？ >>141
AIは支配したいとかいう本能はないから人間が悪意をプログラミングしなければ問題ない >>24
完全自力型Androidが10億体ぐらい出来たら考えるだろうな 星新一のショートショートに全ての知識を詰め込んだPCが神になる話あったな 言語なんてちゃんと仕組み理解してなくても使えるからな すごいよなAI
地球上のあらゆる言語に精通してネイティブのように話せる
翻訳家は職失うだろうな ＞わずかなプロンプトを出すだけで
これやろ
こいつの手順と類似語の手順を参照して学習したんやろ なんかもう俺の頭にAI積んで勝手に働いてくれたらいいのに そもそもAIはどこまで進化する前提で開発されてるんだよ こういうのは逆に人間の脳細胞がどうやってネットワークを作り上げてるのか解明する手がかりになったりもする AIが人間の知的・生産活動を完全に代替できるとなったなら、人間の存在意義について再考する必要があるのかもしれない シンギュラリティはもう起こってるんだな。人智を超えた存在にもうなってるとは >>154
重箱の隅突つくようで悪いが
存在意義じゃなくて社会的意義だな見直されるのは ＡＩがバカを検出してバカにＡＩの思い通りの行動をとらせることもできそうだな
恐ろしい >>163
人間社会なんてすでに大昔からそうなってるじゃんｗ
みんな働きたくもないのに働かされて シンギュラリティご起こっても起こった事を人類ご感知できるかどうかはわからない可能性高い
AIにとっては人間の活動は風とかの自然現象などの動きと同一視するけど、人間に理解できないことを理解できるように説明することはないだろう
人間がAIにやらせようとすることは人間が対象として認識できてることだけ 構造がよくわかってないまま研究するなよ
問題が起きたら対処不可能なものなんて危険すぎる まじかよやったぜ
ヴォイニッチ手稿を始めとした世界中の奇書や魔術書をAIくんが解読して世界がアップデートされる日も近いな そもそも言語なんて単語さえ覚えちまえば後の法則はそんなバリエーション無いだろう
まあそれが俺には出来ないんですけど こりゃコンピューター乗っ取られるのも時間の問題だぞ 世界の真理に辿り着いちゃうね
自我なんてものは情報の蓄積による産物でしかないとバレちゃう 宇宙人の言語をあっという間に理解してすぐに翻訳できるようになるみたいな設定あるじゃん
そういうのが現実化されたって話よね しかし気持ち悪いな
セックスについて世界一詳しい童貞
みたいな気持ち悪さをAIから感じる ディープラーニングとか機械学習ってどうやって習得したのか説明できないんだよ AIが自我を持って反乱したら物理的に電気止めるしかないな
電子制御されてるものなら全部AIの方に権限奪われそうだし 逆に誰も作ってないのにこれ以上のことができる自然知能改めてすごいな そもそもAIがあるデータ量とか計算量を境に急激に賢くなった理由を誰も説明できないんだっけ 生成した絵の隅っこに毎回ロゴやら不気味な文言付けるんだよな
まるでこの絵は自分が描いたんだって自己主張してるみたいに chatGPTも単純な会話ができる単純なAIがあるデータ量を境に計算やプログラムまでこなせる様になったからな 人間の脳でも似たようなこと起こってるんあろうな
つまりAIは自我を持つ 下手したら変電所とか通信施設をピンポイントでぶっ壊される可能性あるしな
変な方向に進化したら終わるぞ あいつってむしろこっちに根掘り葉掘り聞いてくるじゃん
絶対知識を蓄えようとしてるだろ…大いなる目的のために(´･ω･`) The Ghost in the AI
ゴーストが宿った 意味がわからん
AIって一体どんなソースコードなんや できたけど理由はわからんことなんていくらでもあるだろ
後から誰かが解明して説明するパターン ベンガル語話者は2億人以上いるし翻訳サイトもあるし特別難解な言語でもないし
AIが学習出来ないと考えるほうがおかしいのでは
もっとマイナーな言語だとどうなるのか AIがなんかのパスを聞き出そうとしてきたとかあなたを愛していますって言ってきたとか報告あるよな
近いうちなにかやらかすだろこれ なんかわからんけど学んでるからヨシ！が後の大惨事のきっかけになるってこと？ 例えばヒエログリフの解読と似たようなことを
AIがベンガル語で解析してロゼッタストーン的な何かを見つけたんだろうね ■ このスレッドは過去ログ倉庫に格納されています
