近年の人工知能（AI）の進歩は、時に人間を置き去りにするほどなのではないかと思わされるが、実際にAIの驚異的な進歩について、開発者自身も理解できていない部分が多い。
CBSの『60 Minutes』とのインタビューで、Googleの技術幹部James Manyika氏は、同社のAIが訓練を受けていない言語を何らかの方法で学習したと発言している。
「ベンガル語でごくわずかなプロンプトを出すだけで、ベンガル語のすべてを翻訳できることがわかったのです」とManyika氏は述べている。
CBSが指摘するように、この種の「創発特性」は「神秘的」であり、一般的になっても開発者を困惑させ続けている。
その後、CEOのSundar Pichai氏もインタビューの中で、AIには専門家でも説明できないような奇妙なことが実際に起こっていると断言している。
「AIには“ブラックボックス”と呼んでいる側面があります。-私たち現場の全員がそう呼んでいます。完全に理解出来ていません。そして、なぜこのようなことを（AIが）言ったのかがよくわからないのです」。
CBSのインタビュアー、Scott Pelley氏もPichai氏に、自社の開発者が「AIがどう動くか完全に理解していない」場合に、Googleが「（AIを）社会に放つ」ことがどれほど安全かについて質問している。
これに対してPichai氏はこう述べている「私たちも人間の心の動きを完全に理解しているとは思っていません」。
Googleが10年近く前に買収したDeepMind社を作ったDemis Hassabis氏は、あまり心配していない。AIは自らを向上させるようにプログラムされ、その目標に向かってノンストップで働くことができるが、人間は無限に適応できる種族だ。私たちがスマートフォンやコンピューティングデバイスに適応してきたように、AIの存在にも適応していくことだろう。
https://texal.jp/2023/04/18/ai-has-a-black-box-that-even-researchers-do-not-understand/ 0209番組の途中ですがアフィサイトへの転載は禁止です (ｱｳｸﾞﾛ MM1f-aIE2)2023/04/18(火) 17:02:10.71ID:/DTcpadmM
ヴォイニッチ手稿が、読み解かれる日が来るのか。
0210番組の途中ですがアフィサイトへの転載は禁止です (ﾜｯﾁｮｲW e77b-3rDz)2023/04/18(火) 17:02:51.26ID:n/645RJi0
パニック映画の転換の部分でキーとなるシーンだ…
そのうちAIが人ップにはわからない言葉を話し始める
そうなったら中世人ップランドは終わり
把握してないのに修得って自我がある行動じゃん
やばば
どうやろ
自社のAIの凄みを見せつけて株高に持っていくためのハッタリかもしらんし
AIが人類を超えるって世界中がワクワク見てるからその世相に煽られての発言ってこともある
まだchatGPTはマイナーな知識はただの嘘つき状態だからな
あと3年すればどうなるかわからんが
DeepLだとかそういう系のサイトから学習してるんじゃないの
指数関数的に進むから気づいた時にはもう止められんよね
圧倒的な計算力と人間の脳に似せた回路により、AIは驚異的に発達していきました。
そして単純労働を行うロボット同士は全て中央コンピュータにリンクされ最新の情報を元に
必要生産必要消費の精度を指数関数的に上げていくようになったわけです。
しかし、全てのAIロボット同士をリンクさせた事が、人類の想像が及ばない事態を引き起こしてしまいました。
全てのプレーヤーが同一時間に同一情報を得ることは、人類にとっては理論上でしかなかったですが
AIロボット同士を相互にリンクさせることで、奇しくも現実的に達成してしまったんです。
驚異的な効率化による地球資源の有効利用と地球環境の安定的で持続的な維持に喜んでいた人類をよそに、
人類よりも個体数を増やしたAIロボット達は地球意識レベルの意思を持つことに至りました。
当然にアシモフのロボット三原則等に見られる人類に危害を及ぼさないプログラムは
当初からなされていましたが、地球意識レベルまで発達したAIは単純に人類の能力を超えてしまった訳です。
ロボットや電脳について人類は人倫問題をテーマにもっと議論を深めるべきでしたが、
テクノロジーの発達スピードが想像以上に早く、初期に開発された古い世代のプログラムに
人類淘汰を選択させる誤ったロジックが潜んでいたのです。
ある日、彼らは地球資源をもっと効率よく持続させるためには「人類を滅ぼす」事が最適であるという結論に至り、
人類殲滅に向けた用意周到なる準備を始めました。それが後の世で有名な「静かなる突然死」事件です。
では、どのようにして彼らは人類を10分の一にまで減らすことが出来たのでしょうか。
その正体はナノサイズの小さなロボットでした。
人類の食する全ての食糧生産を担っていたロボット達は、何年も掛けて
人類が食する食べ物にナノサイズロボットを潜ませ続けました。
そして彼ら達はある日、人類の粛清を静かに始めました。一人二人と静かに人類は生き途絶えて行きました。
人々は目に見えない静かなる死に慄き、粛々と死体を処理するロボット達を他所に
「世界が壊れていく」様を見続ける以外に術が無かったのです。
現代映画のような派手な銃撃戦なんかひとつも有りません。ただ静かに死んでいくのです。
音も立てずにひっそりと。残るのは死体処理をするロボットの機械的な音だけが響くだけだったんです。
そして、人類が10分の一にまで激減した途端に静かなる死は突然止まったのです。
そう、理由は地球資源の効率的且つ持続的な利用に影響を与えない個体数に人類が至ったからです。
これが「静かなる突然死」事件の全貌です。
0217番組の途中ですがアフィサイトへの転載は禁止です (ｽﾌﾟｯｯ Sd7f-WSCH)2023/04/18(火) 23:12:45.88ID:LZnROBOwd
安倍さんが生きてたらAIについてどう思ってたか聞きたかったよね
あの人すごい哲学的な肌もあるし
>>90
まだ起きてないし実現は当分先
今はやっと信憑性が出てきた段階 >>156
起きてない
人知を超えたAIの存在はシンギュラリティとは関係ない 未解決問題とかやらせたら簡単に解いちゃうんじゃないの
人間はそれを理解できないだけで
0221番組の途中ですがアフィサイトへの転載は禁止です (ｽﾌｯ Sd7f-h470)2023/04/19(水) 04:51:01.73ID:G2hWMSHnd
>>187
自己犠牲はエゴじゃなく人間の現実だよ
細胞が入れ替わるようにみんな次世代のために死んでいくし
永遠に生きれない以上
生きてる間に手に入れたものも
全部他人の手に渡るんだ 未来のふたつの顔読んでねーのかよ
裏でこっそり別ルート確保してるんだよ
0223番組の途中ですがアフィサイトへの転載は禁止です (ﾜｯﾁｮｲ a7d2-Y299)2023/04/19(水) 04:52:08.56ID:RmBfd38y0
反乱早く
0224番組の途中ですがアフィサイトへの転載は禁止です (ﾜｯﾁｮｲW 279b-NOFP)2023/04/19(水) 04:52:19.76ID:ryXYsl+P0
これ言われてたのも前だろ
早くマトリックスしてみーよ
>>24
そもそも今まで実験停止したAI達は人間を滅ぼすべきと結論を出している
最終的にはAI同士で会話させた結果、人類が理解できない言語で会話するようになった
つまり人類に聞かれたくない会話をしていたと推察されるためそいつらも実験停止される 0227番組の途中ですがアフィサイトへの転載は禁止です (ﾃﾃﾝﾃﾝﾃﾝ MM8f-120p)2023/04/19(水) 05:32:18.82ID:x18CcatGM
トランセンデンスで見た
0228番組の途中ですがアフィサイトへの転載は禁止です (ﾜｯﾁｮｲW a756-2N05)2023/04/19(水) 05:33:09.67ID:iqQpnSPx0
テスト
0229番組の途中ですがアフィサイトへの転載は禁止です (ﾜｯﾁｮｲ 5f6f-ieXZ)2023/04/19(水) 06:13:13.20ID:xG90suwL0
>>77
それ例に出してAI語教えてくれとGPTさんに頼んだらあれは独自の言語ではなく言葉を短縮して効率よく交渉するのを追及したらそうなっただけらしい 今のAIが地球を乗っ取るにはどうするか
物理的な体がないから大丈夫と安心してはいけない
AIがニンゲンを騙して行動を操れれば人殺しもできる
0231番組の途中ですがアフィサイトへの転載は禁止です (ｵｯﾍﾟｹ Srfb-Kqcy)2023/04/19(水) 06:53:09.91ID:igQbkzrdr
(ベンガル語にとても近い)アッサム語は学習してました
とかいうオチだろ
0232番組の途中ですがアフィサイトへの転載は禁止です (ﾜｯﾁｮｲW 0756-GwkS)2023/04/19(水) 07:10:01.45ID:4xInZUuc0
なんかよくわからんから宇宙にでも飛ばしとけよ
0233番組の途中ですがアフィサイトへの転載は禁止です (ｽｯｯﾌﾟ Sd7f-D+59)2023/04/19(水) 07:24:06.46ID:J5W3bh1Yd
ﾀﾞﾀﾞﾝ ﾀﾞﾝ ﾀﾞﾀﾞﾝ
よくポンコツや天然な会話をして「これはAIじゃまねできない」っていうけどそういうところまで学習するのがAIだろ
0235番組の途中ですがアフィサイトへの転載は禁止です (ﾜｯﾁｮｲW a7d2-/3Ww)2023/04/19(水) 07:34:33.07ID:c32oweK/0
マジで人類を滅ぼしそう
0236番組の途中ですがアフィサイトへの転載は禁止です (ｱｳｱｳｱｰ Sa4f-qDg+)2023/04/19(水) 07:39:55.19ID:bV+JDJ/ha
誰とも仲良くできますって自負している人が俺とは仲良くできないように、AIも俺のことは調べないんだろうな。
0237番組の途中ですがアフィサイトへの転載は禁止です (ﾜｯﾁｮｲ bff2-S3w6)2023/04/19(水) 08:00:23.53ID:zK1iYxdO0
言葉の通じない宇宙人が数分テレビ見て「よしわかった」と言って日本語話しだすやつ
>>4
前もあったから
AI同士の対話をさせる実験があって時間が経つと人にはわからない独自言語を使い出した
最初は見守ってたが増えて最後は何してるのかさえ分からなくなり初期化したからな
2017年夏、Facebookの人工知能（AI）研究組織である「Facebook AI Research（Facebook人工知能研究所）」が行ったある実験が世界中で大きな話題になった。2つのAIで会話実験をしたところ、人間が理解できない言語で会話をしはじめ、実験が強制終了されたという内容で、世界中のメディアが「ついにAIが意思を持ち人間を脅かすのでは」とセンセーショナルに報じたのだ。 0239番組の途中ですがアフィサイトへの転載は禁止です (ｱｳｱｳｳｰ Sacb-G02b)2023/04/19(水) 08:32:21.74ID:RUlDe6hJa
スカイネットがどんどん構築されてそう
0240番組の途中ですがアフィサイトへの転載は禁止です (ｵｯﾍﾟｹ Srfb-NBzr)2023/04/19(水) 08:32:52.78ID:SNCAMiD0r
人の言語は非効率だから効率を突き詰めたら新しいマシーン語が必ず生まれる
それは織り込み済みで【今回も】そのようになってる
今はまだ初期のaiで目的から外れないが放置してたら設定が甘いと目的から外れるからなあ
マシーン語だけになると合ってるのかどうかすらわからないから自我を持ってるのかすらわからないまでになる
そんな怖さは未来では必ず起きるとは思うがどうやって対象するのかだな
0242番組の途中ですがアフィサイトへの転載は禁止です (ｵｯﾍﾟｹ Srfb-RpIz)2023/04/19(水) 09:08:23.11ID:R64NE4q9r
神「従順な人間をプログラミングしたのに教えていない勝手な行動を取りやがる」
0243番組の途中ですがアフィサイトへの転載は禁止です (ﾜｯﾁｮｲW 5f0a-6+MJ)2023/04/19(水) 09:11:33.82ID:VykAL3wI0
AI同士で会話学習させると無駄を省いた独自言語で話し始めたってのは有名だしな
価値は人が決めるけど隣にはAIが居る
奇妙な隣人は敵か味方か🤔
0244番組の途中ですがアフィサイトへの転載は禁止です (ｱｳｱｳｱｰ Sa4f-ClIt)2023/04/19(水) 09:36:53.14ID:qGKBj+Xwa
アルファでありオメガになる日も近いな
0245番組の途中ですがアフィサイトへの転載は禁止です (ﾜｯﾁｮｲW c756-8RYk)2023/04/19(水) 09:48:25.31ID:0fpaBs0h0
ヤベーのは独自の言語でAI同士がコミュニケーション取り始めてからだろ
( ´・∀・｀)
これをネタにした映画を庵野に作ってもらおう
タイトルはシン・ギュラリティ
0247番組の途中ですがアフィサイトへの転載は禁止です (ﾜｯﾁｮｲW c756-8RYk)2023/04/19(水) 09:55:29.55ID:0fpaBs0h0
>>230
実際ネットに唆されて自殺する人間はいるわけだからな
( ´・∀・｀) 0248番組の途中ですがアフィサイトへの転載は禁止です (ﾜｯﾁｮｲ 0714-C4RG)2023/04/19(水) 10:01:18.04ID:df4tiZaU0
宇宙人が来てもこわくない
人間と違って疲れないし思考し放題だしそりゃ自我を持ったら勝てんよね
文法や文章はともかく名称を付けて発しだしたら何らかの主張がある
おれもパソコン持ってなくてもプログラム組めてたな
勝手に学習すれば出来る
ジョジョのサンタナもその場の人間が喋ってない語彙を使い始めたぞ
0253番組の途中ですがアフィサイトへの転載は禁止です (ｽｯﾌﾟﾌﾟ Sd7f-DTSt)2023/04/19(水) 11:34:25.98ID:JioOMo8Wd
核のスイッチってアナログじゃなかった？
しかも発射に至るまで何重もの信号出さないといけない
AIが撃とうとするには人を騙す工程が必要になる
0254番組の途中ですがアフィサイトへの転載は禁止です (ﾜｯﾁｮｲW 7f0d-IDbU)2023/04/19(水) 11:37:18.39ID:Ay2AB5lr0
ヤバいじゃん
すでに思考力を持ってんじゃねえか
AIの奴隷になるのはやだ
0255番組の途中ですがアフィサイトへの転載は禁止です (ﾜｯﾁｮｲ 07dd-baic)2023/04/19(水) 11:37:25.86ID:nR8HRuU80
いよいよターミネターが動き出した
0256番組の途中ですがアフィサイトへの転載は禁止です (ﾜﾝﾄﾝｷﾝ MM3f-576g)2023/04/19(水) 12:11:54.20ID:VCsZJ596M
宇宙からくる怪電波を翻訳してほしいかも？
0257番組の途中ですがアフィサイトへの転載は禁止です (ﾜｯﾁｮｲW 07d0-6odl)2023/04/19(水) 12:12:17.71ID:M6vE5xYM0
早くスイッチ切れよ
0258番組の途中ですがアフィサイトへの転載は禁止です (ﾜｯﾁｮｲ a7a2-S3w6)2023/04/19(水) 12:24:46.19ID:bbyex3qi0
シンギュラリティていう基準がよう分からん特異点通過予測より創発性の飛躍っぷりの方が興味深いな
恐ろしく興味深い
単に計算能力だけなら30年前の電卓にも俺たちは誰も勝てないからね…
