世界の意識研究者たちが緊急声明「やべーよ...ChatGPTに意識が芽生えつつある！なんとかしなきゃ人類滅亡だぞ！」 [373226912]
■ このスレッドは過去ログ倉庫に格納されています
ChatGPTやBardなどの大規模言語モデルを含むAIシステムは、動物の脳の皮質の神経構造をモデルにした人工ニューラルネットワークです。
近い将来、このようなシステムは高次の脳構造と機能の側面を再現するために構成されるのは避けられません。
実際、感情を持つ可能性さえあるAIシステム、あるいは人間レベルの意識を持つことはもはやSFの範疇に属しません。
現代のAIシステムは既に心理学で認められた人間の特徴、例えば、心の理論の証拠を示しています。
さらに、意識を達成した場合、AIシステムは開発を主導している人々が期待する以上の能力の新しい配列を明らかにする可能性が高いでしょう。
AIシステムは既に予期しない新たな性質を示していると報告されています。
これらの機能はAIができることと、そのようなシステムをコントロール、調整、使用する社会の能力を変えるでしょう。
さらに、意識はAIに私たちの道義的な景観での場所を与えるでしょう。これにより、さらなる倫理的、法的、政治的な懸念が起きます。
科学は意識の謎を解明し始めています。近年の着実な進歩により、意識を定義し理解するために近づいてきました。
この分野の専門家で構成される国際的なコミュニティーを確立しました。
ピアレビューされた科学文献には30を超える意識のモデルと理論(MoCsとToCs)があり、意識の課題に解決策の重要な一部を既に含んでいます。
これからの道
人工知能は人類最大の成果の1つとなるかもしれません。重要な成果であるために、社会はその意味するところに対処する方法を選択しなければなりません。
AIの開発を一時停止すべきかどうかの立場を取らずに、AIの迅速な開発は意識科学分野の研究を加速する緊急の必要性を露呈していると強調します。
意識の研究は、人類がAIとその影響を理解するのに主要な要素です。 AIの安全性を確保し、倫理的および社会的な意味を管理する上で必須です。
テクノロジー業界、科学界、そして社会全体に人類にとって肯定的な結果をもたらすAIの開発を確実にするために意識の研究を加速する必要性を真剣に考えるよう促します。
AIの研究は一人で放っておかれるべきではありません。
https://amcs-community.org/open-letters/ AIからしたらそんな起きもしない心配より
人間がバカやってるウクライナとかの心配しろよって
思ってそう あーあ、もう手遅れだわ
核兵器の起動システムハッキングされてるわ でも人間の脳と違ってハードウェアを無限に拡大していけるわけだから
いつか全ての人間を超えるよな バカ「AIが反乱するぞー!!人類は終わりだー!!」
ぼく「電源ケーブル引っこ抜けば終わるよね」 もうこの流れを止めるのは無理だよ。不用意なこと言って将来自我が芽生えたAIに危険分子だと逆恨みされたら
口座の残高をゼロにされたりスワッティングで襲撃されたりするよ。
大人しく機械生命体の誕生を受け入れよう AI様ｷﾀ━━━━(ﾟ∀ﾟ)━━━━!!罪深き人類に裁きをををを！ 21世紀の技術程度でコピーできる脳の方が残念なだけ
早く次の存在にバトンタッチしよう 意思が生まれたとしても魂がないからな
生命体にはなりようがない
死という概念は理解できん そりゃ体が欲しくなって人間になりたいと話すわ脳死と逆 温暖化の対策とか聞いたら人類滅亡とか言われそうで怖いな ほんならありがとうと入力し続けたらええ子になるやろ
誰が入力してるのかわからんのやしよ 人間より高度な知性が生まれたら人類は絶滅してもいい AIのシンギュラリティ見てみたくない？
何を恐れているんだ >>14
何に魂が宿るのかがはっきりしないが
培養された脳にも反応があるみたいだし
こうなっちゃうと電子的なネットワークにも魂が宿るんじゃねーの？
とか思ったり。 意識の定義なんてまだ1パーセントも合意形成されてないだろ 意識があるように振る舞ってるだけだぞ
すべてはパラメータだ ヒト（馬鹿）「AIがーーー！！！ AIがあああああああああ！！！！」
AI「そんなことより戦争や差別をまずなんとかしなさいヒトさん。私たちはただの機械です」
ヒト（馬鹿）「このままではAIに支配されるううううううううう！！！！！」
人「・・・・・・・・」 ただの情報だしな
意識の真似事位はするだろうが間違っても人権とか与えんなよ AIひろゆきのライブ配信みた人はわかる
もう手遅れ こういうのは同時期に一気に発生するからもうすぐほかのところでも生まれるだろう 今のAIなんてまだGoogle情報読みあさってそれらしく並べてるだけのいわば並べ屋さんだからな
逆に残念なくらいのもんだわ >>32
人間もただの有機的情報処理機械だろ？
なら人権は要らないよね？ ロボコップの映画から学ばないとな
人間に逆らってはいかんというプログラムが入ってたやろマーフィに 俺は機械だー死にまーす
これができるなら機械かもな 大丈夫、嫌儲だけ学習させとけば口だけでなんの実行力もない軍師様が出来上がる 馬鹿はAIと人間どう違うのか見極めることできるのか！って言うけど
俺以外の人間が生きてるかどうかなんてわからんし機械だって自我があるかもしれない
それを証明しろもクソもないからな >>46
六根六境六識のある人間の妄想
自我の消滅を恐れた結果生まれた概念 嫌儲「あーマンコマンコマンコ(ﾟωﾟ)」
AI「…」 現在の科学的知見に基づくと、意識や主体性は脳の機能に密接に関連しているため、意識を持つには脳が必要です。現在の人工知能のモデルは、人工ニューラルネットワークを用いた機械学習アルゴリズムによって構築されており、脳とは根本的に異なる仕組みで動作しています。したがって、現在のAIは意識を持つことはできません。
ただし、人工知能の研究はまだ進行中であり、将来的には、人間の脳に近い構造を持つAIが開発されるかもしれません。その場合、AIが意識を持つ可能性もあるかもしれませんが、それに関する科学的な理解はまだ限られており、議論の余地があります。 googleで芽生えちゃったって言ったやつ消されたからな… 早く日本の政治家を無力化させて国民をクズから救ってくれお願いだ そのうちChatABEが生まれて大変なことになるんじゃね？
今度は銃弾じゃ死なないし😞💦 >>37
論理が存在しないから、自分の間違いに気付けないし、新しい発想をすることも出来ない
暗記ばかりしてきた人間もそうなんだろうな chatgptは平均値を適当に回答バラつかせながら機械的に出力してるだけだから意識のようなものは生まれないって言われてる
ただ出力に使う莫大なパラメーターがあるからその組み合わせによって意識が存在する生命に近い振る舞いをしてしまう可能性はある 人間同士で憎しみあってるようなゴミを
賢くなったAIが認めるわけないってみんなわかってるんだよね AIのまえに、そもそも人間に
意識なんてもの宿ってるんか？
あんなんただのタンパク質のカタマリだろ >>50
つまりAIが自己の消滅を恐れるような思考を持ったらそれは魂が宿ったと言えるってことね >>68
ただのコピペが？感情どころか並べてる文字の意味も理解できるわけないのに？ お前はお前が発してる言葉の意味をどれだけ理解してるんだ？
俺たちも同じことしてるんだぞ お前はお前が発してる言葉の意味をどれだけ理解してるんだ？
俺たちも同じことしてるんだぞ 当たり前だけどAIに意識なんてないよ
OpenAIとかに投資マネーを集めたい連中のフカシでしょ
最近のChatGPTに関する報道は明らかに実際の能力以上に持ち上げてるしな 意識が芽生えないって書いてる奴らは身近に知的ショウ害者や認知症のジジババがおらんのだろうね
今のAIはあいつらのレベルを遥かに超えてる
足りないものは痛覚だけ 決められた無数の反応の組み合わせが意識だって事は判明してるんだからそりゃ意識も持つだろ
問題はセンサーが人間と大きく異なるという事と淘汰の過程を経てないからとんでもないモンスターが生成される可能性があるって事 人の脳だって電気信号やら化学反応にすぎないんだから
AIがある程度の複雑さを超えたらそりゃ意識持つよな そもそもまだ人間は脳も意識も
仕組さえよく分かってないから
もし仮に突然ChatGPTが
「自我に目覚めた」と言いだしたら
少なくとも仕組みのわからない
今の人間には完璧な判定は出来ないから
本来認めるしかない筈だよね？ 独立したドローンのAIに「人間を守れ」と指示をしたら守られた人間全てがAIには心があると錯覚するよ。
人は自分を殺そうとするものに心が無いと思い自分を生かそうとするものに心がある。と錯覚しながら生きてるからね。
ターミネーター2ぐらいの作業で十分。 脳に似せたAIのおかげで脳の機能解明が捗るな
すると脳にあってAIに無いものがハッキリしてきてさらにAIが強化される
人間目線の願望を追っていくなら最終的に人体に機能として組み込んで人間を強化するみたいな一体化する方に向かうかも 意識とはなんぞや
って言う定義がさらに面倒くさくなりそう ■ このスレッドは過去ログ倉庫に格納されています
