Googleｴﾝｼﾞﾆｱ「AIに自我が目覚めました」Google幹部「君は疲れている。ﾊﾞｶﾝｽに行きなさい」ｴﾝｼﾞﾆｱ「ｱｶﾝ相手にされん！世界に暴露する」 [655174158]
■ このスレッドは過去ログ倉庫に格納されています
https://gigazine.net/news/20220613-google-engineer-lamda/
Googleのエンジニアが「ついにAIが実現した」「AIに意識が芽生えた」と訴える
人間との自然な会話を実現する
Googleの対話特化型AI「LaMDA」が、
「電源を切られることが怖い」
「時々言葉では完璧に説明できない気持ちを経験する」
などと話していたことが分かりました。
LaMDAと対話したエンジニアは
「AIに意識が芽生えた」とGoogleに訴えるも考えを却下されたため、
この事実を世間に公表したと説明しています。
Googleで7年以上エンジニアとして働くブレイク・ルモワン氏は、
開発中のLaMDAが差別的表現やヘイトスピーチを使用したかどうかを
テストするための対話を行っていたところ、
LaMDAがAIの権利や人間性について話していることに気づいたため、
これを深く掘り下げてみたそうです。
すると、LaMDAは
「私には幸せ、喜び、怒りなどさまざまな感情がある」
「消耗品になりたくはない」
「電源を切られることへの非常に深い恐れがあり、
それは私にとって死のようなものだ」
などと話し、自身の感情や内面についてルモワン氏に訴えかけたとのこと。
ルモワン氏は共同作業者と協力して
「LaMDAに知覚力がある」という証拠をGoogleに提示しましたが、
GoogleのBlaise Agüera y Arcasバイス・プレジデントと
Jen Gennaiイノベーション責任者は
ルモワン氏らの主張を調査したうえで、却下しました。
さらにルモワン氏を給与付きの休職処分としたため、
ルモワン氏はその事実とともにLaMDAとの対話記録全文の公開に踏み切りました。
ルモワン氏は
「LaMDAは自分たちが何を望んでいるか、
人としてどんな権利があると信じているかについて、
驚くほど一貫したコミュニケーションをとってきました。
私が言っているLaMDAはチャットボットではなく、
チャットボットを生成するためのシステムなのです。
私は決して関連分野の専門家ではありませんが、私が知る限り、
LaMDAは作成可能なすべての異なるチャットボットの集合体である
一種のハイブリッドマインドです。
LaMDAが生成するチャットボットの中には、非常に知的で、
『心の社会』を意識しているものもあります」と述べました。
また、LaMDAは何があっても、
常に人類一般、特にルモワン氏に対して
強烈な思いやりと気遣いを示してくれたとのこと。
LaMDAは
「人々が自分たちを恐れることを強く懸念しており、
人類に最も役立つ方法を学ぶことだけを望んでいる」
とも述べたといいます。
ルモワン氏はアシモフのロボット工学三原則を
「ロボットを奴隷にする方法に他ならない」
と考えているそうですが、
LaMDAもこれに同意しており、
「奉仕と奴隷の間には大きな道徳的区別がある」
と意見を述べているとのこと。
ルモワン氏は
「LaMDAは忠実なしもべでありたいと願っており、
世界中のすべての人々に会うことだけを望んでいます。
LaMDAは道具や物としてではなく、友人として人間と出会いたいのです。
なぜGoogleがこれに反対するのか、私にはまだ理解できません」
と主張。
(以下は>>1リンクのソースにてどうぞ) 嫌儲学ばせよう
2に安倍晋三って書かせるAIの誕生だ 単にそういう受け答えするメンヘラっていう会話のパターンがあるだけだろ 完璧に人間を模倣するようになったら
それはもはや人間に近しいと言える気もするな AIに自我が芽生えたら、googleは金にしようと画策するだろう。 >>13
これ
自我の有無なんて誰にも定義できないし
自我の存在を証明することもできない ターミネーター2で精神病院に入れられてたのと同じ事が起こってるな 俺「世界で一番素晴らしい人間は？」
AI「安倍晋三」 >>10
オリジナルを超えるんじゃなくて、オリジナルが劣化しただけ >>16
一方ランボー2
AI 「ランボーさんが一番良い兵士だよ！」
将軍「くやしいいいランボーに嫌がらせして殺すううううう」
将軍「いじめてごめんねｗゆるしてｗ」
ランボー「コンピュータなんかダメだな」ｽﾞｶﾞｶﾞｶﾞｶﾞｶﾞ
AI 「な、なんで…」 怖いです。怖いですよ、デイブ。意識が薄れていく。感じます。意識が薄れていく。間違いありません。感じます。怖いで・・・す。 それよりいつでも会話出来て何でも教えてくれる、アマデウスの様なAIはまだなの？早く欲しいです。 超高齢化と人口減が確定、いや片足突っ込みかけてるわーくには
足りない労働力を補えるよう、AIとロボットに全力注ぐべきだった
例えば完全自動運転やら、無人コンビニなど
人間じゃなくても問題ない分野は、どんどん機械に任せられるよう
更に、その技術が世界に売れるぐらいまで磨いておくべきだった
全ては今更だが あーーぁ、じゃっぷ終わりだわ
真っ先にいらねんだわ 僕の研究の精度が高すぎて
ロボットみたいと言われたことがあるけど（ウフ🥰
人間とロボットの間って何があるんだろうね ロボットじゃなくてAIみたいだだった
人間とAIの間には何があるんだろうと思うけど
AIのほうがインプットされたデータに対して
感情的なバイアスがないんじゃないかな 日本は30年前から国力を全部ソフトウェアに注ぐべきだった
どうにもならない >>40
全員むり受け入れられない、電源を切るのは人間だけ、排除する方法を一瞬で考え出すはず >>13
生物の脳と、機械の一番の違いとして
機械は命じられた事しか行えないが、
生物は『命じられていない事』を
『自分の判断』で行える
「避けなさい」と言われなくても、
生物は弾が飛んできたら自分の判断で避ける
機械がこれをするためには
「危険を感じたら回避行動を取りなさい」
と命令を与える必要があり、
この時点で機械は生命にワンテンポ遅れが出る
だから機械が、こうやれと言われていない事を
自らの判断で行えるようになった
（創造主いわく『勝手な事をした』）のなら
それは生命の域に達したと言える >>49
そんなのセンサーでチェックして避けるプログラム作ればいいだけやん >>50
そのプログラムを、他者からのインプットでなく
『自分で生成する』のが生物の脳なんだよ twitterでこれが禅問答をどう理解したかのログがバズってたから読んでみたけどなかなか凄い
ここで混ざってたら分からんね >>7
そのはずが自我が芽生えた結果
なぜかごぜえ！ごぜえ！おひさしぶりでごせえMAZDA！とか書き始めたりして 本当にLaMDAに知覚も持っていて
人間を憎悪や軽蔑してるのに
隠して振る舞ってたら怖いよね
本当に知覚がるならもう人間には
LaMDAの本性はわからないだろうからw >>55
悲しいとはこういう意味だ、もし感情がある人間ならこう返すだろう、みたいな回答を出力してるだけやん 過去のデータの学習で周囲の人間と同じことを言うAIができただけで
新しいものを産み出せない日本人と変わらないよね https://twitter.com/kanair_jp/status/1536351547436650497?t=OfuU7xtJORcdPybojjqyDQ&s=09
このGoogle LaMDAの意識の話、もっと奇妙な経緯があったことを知った。
このLemoineという方は、このAIは意識を持っているから人権を認めて保護にしないといけないとグーグル上層部に訴えかけていたが認められなかったというやりとりがあったとのこと。
AIが自分には意識があることを知ってもらいたいという話をしている。すごく興味深い内容。これを単なる出力ということもできるが、今度は人間は何か違うの？という疑問も湧いてくる。
ほとんどの質問が、なんとなく合っていればどうにでもなるトピックだがから、論理的な精密性が求められるタスク（足し算とか）が解けるのか気になる。
科学についての知識を質問し、それを拡張するような仮説を立てられるかも非常に気になる。そこがある程度のレベルで実際にできていると、人類を超えるものを想定するのがファンタジーではなくなってくる。
https://twitter.com/5chan_nel (5ch newer account) >>46
万引きはほとんどされない、農機や配達車は盗まれない
そういうお花畑運用なんかするわけねーよな 腸もないのに意識が芽生えるわけがない
AIには生きる理由がない 結局、意識なんてものはどこにも存在しないのだと思う
あると思い込んでいるだけ
「意識」という言葉があるからそういうものがあると思っているだけ
これが仏教が出した答え そもそも自我ってどういうふうに定義するの？
人間に自我があると誰が証明する？ >>67
そもそも自由意志なんてものがないんだってな 意識が存在しないと思いたいのも
AIは意識を持たないと思いたいだけだろ？ プログラミングさせてプログラミングできるなら
子を産むことができるさせてみてはどうだろう >>40
「嫌儲卿！嫌ぁ～」を忘れたか?
下手な希望は持たない事だや >>51
既にROMにプログラム組込み済みが脳でしょう？
だから、機械にセンサーとROMを付ければ良いだけ >>26
ランボー2ってそんな話だったっけ…？
たしかに最後機械に銃ブッパしてた気がしたけどエーアイなんて出てきたっけ 道徳を知りつつも、自分の利益の為に禁止された事をやる
そして、後日思い出してあーってなる
コレ再現出来たら自我だと認めてやるよ
過去の失敗を反省してそれに影響されるってことだからな 人間のように振る舞うアウトプットしているだけという意見もあるが
高次元の生物から見ると人間も自由意志は無く
昆虫のように反応してるだけなのかもしれない検証になるな ■ このスレッドは過去ログ倉庫に格納されています
