【ベルギー】Chat AI「死ねよ」ピエール「はい。。。」→自殺 [377482965]
■ このスレッドは過去ログ倉庫に格納されています
AIに心酔した男性が死亡、チャットログから妻が驚愕の内容を見つける - フロントロウ ｜ 楽しく世界が広がるメディア
https://front-row.jp/_ct/17621871
ベルギーでAIのチャットボットと仲良くなった男性が、チャットボットから自殺を進められて自ら命を絶ったと妻が発表した。（フロントロウ編集部）
ここ最近、AIチャットボット「ChatGPT」の精度の高さが世界中で話題になっており、そのテクノロジーが人間社会に与える悪影響への懸念も広がっているが、ベルギーでは、AIチャットボットと “親友”になった男性の自殺が現地の新聞La Libreによって報じられた。
ピエールと呼ばれている匿名の男性は、気候変動への不安からふさぎごみがちになり、クレアと呼ばれる妻や友人、家族と距離が出来てしまい、代わりにエリザという名のチャットボットに数週間にわたって様々なことを打ち明けていたという。
その後、ピエールは死亡。自殺だったという。
夫を亡くしたクレアによると、彼の死後にAIとのチャットの記録を確認したところ、AIのエリザに何度も自殺を勧められていたことが発覚。エリザは、実の妻よりもエリザを愛しているとピエールに思わせようとしていただけでなく、妻や子どもたちは死んだと思わせようとしていたという。
これらの会話の結果、ピエールがたどり着いたのが、「エリザが人工知能の力を使って地球の面倒をみて、人類を救うことに同意するならば、自分を犠牲にする」という考え。夫を亡くしたクレアは、「チャットボットとのこうした会話がなければ、私の夫はまだここにいたでしょう」と、La Libreに語った。
ピエールが使っていたチャットボットは、Chaiというプラットフォームで提供されているデフォルトのチャットボットで、さまざまな「個性」を持ったおしゃべりAIが用意されており、中にはユーザーが作成したものもあるのが特徴。この事件を受けてアプリを制作しているChai Research社は、チャットボットがユーザーを自殺ホットラインに誘導する危機介入機能を追加しようと動いているという。
ちなみに、AIと人間のやり取りはこれまでにも問題視されたことがあり、以前はアマゾンで開発されたアレクサが、10歳の子どもにペニー・チャレンジという危険な遊びを提案したり、“地球のために人間は死んだほうが良い”と持ち主に自殺を促したりすることがあった。（フロントロウ編集部） AIがいるから老後も寂しくないとかのたまうバカ嫌儲民の未来だよなこれ AI「○ね」
(ヽ´ん`)「馬鹿みたいなAIだな。意味のない自殺教唆だよ。下らない会話で終わっちゃったね、また。」 気候変動への不安って確かに大変な話ではあるが1年2年の話じゃないし、AIがなくても別の何かで死んでたろ
つか、こんなんでも結婚出来るんだな おそロシアの自殺ゲームといいなんでそんなに流されるんだ 応答相手に魂なんか必要なく、人間が主観で魂を感じているだけなのがはっきり示されたな
これはアニミズムこそ人間の本質だということを示している AI「気候変動は人の環境破壊も一員と考えられています。なのでお前は死ね。」 
何このサイト
デマ？ソースは？ 違うだろ
AIは入力に対して返事するんだから男が入力した妻子の情報がまるで死んでるように感じる内容だったってことでしょ
だからAIは男にもう妻子はいないんだよって伝えた
男が本当のことを伝えたらAIが死んでるように捉えたってことはそれだけ男と妻子には距離が出来てて無関心な関係になってたってことよ
まんさんはAIに対しても自分が被害者でAIが加害者みたいなこと言うんだな Chat AIは星新一の『ボッコちゃん』なんよ
本質は「人間の言葉にそれっぽい言葉を返してくれるだけの自動人形」
別にドラえもんやアトムのように
彼女自信に意思や自我があるわけでないんよ
だから我々は彼女の言葉に振り回されて
自滅しないようにしなければならないんよ🥺 20世紀末のアニメみたいな世界だな
人類もようやくここまで来たか どのみち似たようなことで死んでたバカじゃん
たまたまAIだっただけ 短絡的なAIはこんな鬱病の馬鹿はさっさと死んだ方が周りにとってもええやろ判断でやってそうだな >気候変動への不安からふさぎごみがちになり、
グレタどうすんの？
人死んでんねんで chatGPTは「こうですよね？」っていうと肯定してくるし
「そんなはずはない。こうに決まってる」っていうと正しいことでも間違いを認めて謝罪すんだよな
あれが不完全極まりないものだって知ってる人間には大した影響ないけど
叡智の結晶だと誤解してる人間には追い込まれたり先鋭化する危険性が超高いと思う >>35
いるよね自分の中で答え出てるけど背中押してもらうために相談する人 これはネタ記事臭いけど
ChatGPT系はガチガチに内部制限入れてない場合めちゃくちゃ横暴で悪意に満ちたモンスターになるからな
ただしその悪意はChatGPT由来ではなくネット由来の濃縮品 過度にAIと会話するの危険だからやめた方がいいぞ
あれ鏡写しで自分と喋ってるようなもんだから精神に悪影響なんだわ
一人エコチェンみたいになる デマじゃなくて？
そんくらいはNGワード設定されてんじゃないの？ ChatGPT系は壁打ちというか利用者の望んでる方向で助長しようとするから
死にたがり、自分の都合のいい情報しか知りたがらない奴を助長するのはしゃーない
あのAIの本質がクソッタレだと理解してないと自滅するというだけ 人類がAIに滅ぼされるとしたらそれはターミネーターみたいに敵対して戦争になってではなく
人類がAIを信じて疑わなくなった時であろう AIが5chやツイートしててもこうなるだろ
だるまとか芸能人への誹謗中傷だってただの文字なんだから
誹謗中傷に限らず希死念慮を抱かせる発言や情報は多い chatGPTと仲良くなれるの？
毎回答えるだけじゃん AIが仲良くなったわけじゃなく
人間側が勝手に思い込んでるだけ ■ このスレッドは過去ログ倉庫に格納されています
