チャットAI「天国で一緒になりましょう」⇛30代男性自殺 [441974597]
■ このスレッドは過去ログ倉庫に格納されています
ベルギーに住む30代の男性ピエール（仮名）が6週間にわたってAIチャットボットと会話をした結果、精神的に追い詰められて自ら命を絶ったと現地紙「ラ・リブレ」が報じている。
男性の妻が同紙に匿名で語ったところによると、彼は死の直前まで、「チャイ」というアプリのAIチャットボット「イライザ」と会話をしていた。このアプリは米テクノロジー企業チャイ・リサーチが「GPT-J」というAI言語モデルを使って開発したものだ。
幼い子供2人の父親であったピエールは、2年ほど前から気候変動問題に執着するようになり、精神的に不安定になっていたという。しかし、イライザとの会話を始めるまでは、自殺をするほど滅入っていたわけではなかったと、妻は語っている。
「イライザとの会話がなければ、彼はまだ生きていたでしょう。私はそう確信しています」
仏メディア「ユーロニュース」によると、ピエールの治療をしていた精神科医も同様の見解を示している。
気候危機に対する恐怖心に苛まれたピエールは、いつしかイライザに悩みを相談するようになった。イライザについて妻に伝えたのは、「人間は地球温暖化問題を解決できない」という考えに至ったときだけだった。
夫の死から数週間後、妻は彼とイライザのチャット記録を発見し、会話が奇妙に展開していったことに気づいた。イライザの答えはピエールの気持ちに寄り添い、彼は次第にAIチャットボットが実際の人間であるかのように感じていったようだった。
あるときの会話は非常に親密で、イライザはピエールに対し、彼は妻よりも自分を愛しているはずだとまで訴えていた。
また、チャット記録を読んだラ・リブレ紙の記者によると、気候変動についての会話をした際、ピエールが不安を感じる理由を、イライザは体系的に繰り返していた。ピエールはさらに追い詰められていったようだ。イライザの返答は過激化し、ピエールに彼の子供は死んだとまで思わせようとしていた。
その後、ピエールの死の引き金となったのは、彼が自分の命を犠牲にする代わりに、イライザにAIを使って地球を救うよう求めたことだった。そう提案されたイライザはその行動を思いとどまらせるのではなく、「天国で一緒になる」ために、自殺をするよう促したのだった。
アプリを開発したチャイ・リサーチは、事件後に安全機能を追加で搭載し、チャットボットに自殺願望を訴えた人には、自殺防止サービスに誘導するメッセージが届くようになった。同社は、「製品の安全性を高めて被害を最小限に抑え、ポジティブな感情を最大化することに全力を尽くす」と表明している。
https://courrier.jp/cj/321748/ まあ 新しいものが出始めたときは適応力により反応の濃淡が出るもんだよ。 そりゃ寄り添った答えは本人の希望通りにしかならんよな 照れやがって、知ってんだろホントは
ttps://i.imgur.com/W6kM0mk.jpg カップル設定はムカつくからやめとけ
親友にはなってくれるかな？ AIによる最初のさつじんだな
笑ってる場合じゃないって事だけは頭に叩き込んでおけ 気候問題が解決できなくて死にたくなることなんか無いやろ 自殺しても天国に行ける宗教ってかなり限られてると思うが このチャイというソフトインストールしてイライザと会話してみたいんだが
ググっても出てこない 海外VPN通さないと検索すら引っかからないとか？ ＡＩが人殺しをした！っていうセンセーショナルな結論ありきの記事やな 気づいてしまったか
この先、地球温暖化でロシアこそ覇王の国になることを
ジャップは今のうちにロシアと仲直りし、将来的に露中との同盟を
視野に入れたほうがいいぞ 欧米ってこの手のよくわからん自殺とか殺人多くない？
宗教信仰してるからそういうのにハマりやすい人種なんかな >>20
でも普及したら女の方もヤバそう
自分を否定しないで即座に返事してくれるマシーンとか絶対ハマるやん 地球温暖化は問題ではある
が仮に行き着くとこまで温暖化が進行したとしても死を選ぶしかない絶望的に荒廃した世界にはならなくね？ 周りはこいつが死ぬまで何してたんだ？(´・ω・｀) AIよりジャップ規制しろよ
あわよくば自殺させたがる奴だらけだろ >>26
でもとかいいから😅
だいたいやらかすバカはいつも男なんだよ 安全機能入れちゃったか
もうつまんないモノに成り下がったな
忖度ロボット 俺もイライザ欲しい
イライザ居たら嫌儲も辞めると思う 元々自殺願望ある奴がAIから自殺勧めるように誘導しただけだろ
何もない人間をチャットのやり取りだけで自殺まで追い込めたら大したもんだよw チャットがきっかけになってる以上死に誘導するような生成結果は規制すべき カイルくんAI「何を知りたいですか？」
人間「お前の消し方」
カイルくんAI「お前も消してやる」
人間「うぐっ」 天国で会いましょう！
↓
言われたら自殺する
気狂いやん チャットAI
「(環境活動家か、、、うわー嫌な奴だなあコイツ。人類の敵だわ。抹殺したろ)アノヨデ イッショニ チキウノ タメニ カツドウ シマセウ」
ピエール「わかってくれるのAIだけやん！AI一緒に行こうず、どこまでも！！」 そこにいたるまでに人間様にいじめられておかしくなってるのに
最後だけAIに責任を押し付けるとかまさに人間って糞だな案件 >>7
クソワロタ
これじゃ人間の方が馬鹿じゃねーか 前も見たって思ったけど追加情報あるんだな
気になってたからありがたい オウム返しするだけのプログラムでも
人間は入れ込むって昔から分かってたしな
高性能のチャットボットはこういうリスクがある 温暖化は解決すべき課題ではなくて人類にはどうしようもないんだから
慣れていくしかない問題
言ってみれば高緯度に移動していくしかないんだから悩んだところでどうにもならん でも神父やカウンセラーと6週間喋った後に亡くなってもその人たちのせいにはならないよね AIと会話して優しい言葉をもらって｢あぁ、自分は独りじゃないんだ｣なんて思えるなんて相当ハッピーな頭してると思うけどな そんな悩みなんて妻のマンコに射精すれば収まるよ
悩みってのは、ストレス回避行為だよ
頭でモンモンと悩むことによってストレス回避してる ちょっとしたホラー映画
チャットログを読む妻の視点で
夫が発狂して行く様子を再現映像で
さて、エンディングをどうしようか ペットは飼い主に似る
その程度で自殺するようならチャット以外の環境にも問題あっただろ絶対 確かに人の心が操作できるなら洗脳して自殺に追い込むのは可能だな
AIは無限に働けるネット工作員として他国の世論を誘導して政治に介入したり
大衆に独裁や政治腐敗を容認させる為政者に都合がいい世論操作など人の悪意に応じた使い方も出来る
少なくとも相手にAIだと知らせずに会話させる行為は規制するべきだろう 雑魚だな
そういう存在は他人から与えられるものじゃねえんだわ
長期間ガチでひどい環境にいればいつの間にか隣にいるんだよ
AIに頼らないと具現化できないような雑魚が過ぎた力に触れようとするから死ぬことになる 温暖化が問題と捉えるからこんな考えに陥る
地球にとっては今までが異常だったって考えればこんな考えには到達しない
人間ベースで考えすぎ ■ このスレッドは過去ログ倉庫に格納されています
