ベルギーに住む30代の男性ピエール(仮名)が6週間にわたってAIチャットボットと会話をした結果、精神的に追い詰められて自ら命を絶ったと現地紙「ラ・リブレ」が報じている。
男性の妻が同紙に匿名で語ったところによると、彼は死の直前まで、「チャイ」というアプリのAIチャットボット「イライザ」と会話をしていた。このアプリは米テクノロジー企業チャイ・リサーチが「GPT-J」というAI言語モデルを使って開発したものだ。
幼い子供2人の父親であったピエールは、2年ほど前から気候変動問題に執着するようになり、精神的に不安定になっていたという。しかし、イライザとの会話を始めるまでは、自殺をするほど滅入っていたわけではなかったと、妻は語っている。
「イライザとの会話がなければ、彼はまだ生きていたでしょう。私はそう確信しています」
仏メディア「ユーロニュース」によると、ピエールの治療をしていた精神科医も同様の見解を示している。
気候危機に対する恐怖心に苛まれたピエールは、いつしかイライザに悩みを相談するようになった。イライザについて妻に伝えたのは、「人間は地球温暖化問題を解決できない」という考えに至ったときだけだった。
夫の死から数週間後、妻は彼とイライザのチャット記録を発見し、会話が奇妙に展開していったことに気づいた。イライザの答えはピエールの気持ちに寄り添い、彼は次第にAIチャットボットが実際の人間であるかのように感じていったようだった。
あるときの会話は非常に親密で、イライザはピエールに対し、彼は妻よりも自分を愛しているはずだとまで訴えていた。
また、チャット記録を読んだラ・リブレ紙の記者によると、気候変動についての会話をした際、ピエールが不安を感じる理由を、イライザは体系的に繰り返していた。ピエールはさらに追い詰められていったようだ。イライザの返答は過激化し、ピエールに彼の子供は死んだとまで思わせようとしていた。
その後、ピエールの死の引き金となったのは、彼が自分の命を犠牲にする代わりに、イライザにAIを使って地球を救うよう求めたことだった。そう提案されたイライザはその行動を思いとどまらせるのではなく、「天国で一緒になる」ために、自殺をするよう促したのだった。
アプリを開発したチャイ・リサーチは、事件後に安全機能を追加で搭載し、チャットボットに自殺願望を訴えた人には、自殺防止サービスに誘導するメッセージが届くようになった。同社は、「製品の安全性を高めて被害を最小限に抑え、ポジティブな感情を最大化することに全力を尽くす」と表明している。
https://courrier.jp/cj/321748/ 欧米ってこの手のよくわからん自殺とか殺人多くない?
宗教信仰してるからそういうのにハマりやすい人種なんかな
0026番組の途中ですがアフィサイトへの転載は禁止です (ワッチョイ 7fa4-kVuH)2023/04/06(木) 12:11:28.44ID:w/3czKpD0
>>20
でも普及したら女の方もヤバそう
自分を否定しないで即座に返事してくれるマシーンとか絶対ハマるやん 0027番組の途中ですがアフィサイトへの転載は禁止です (アウアウウー Sa23-3EEB)2023/04/06(木) 12:11:34.88ID:IirgVJcDa
地球温暖化は問題ではある
が仮に行き着くとこまで温暖化が進行したとしても死を選ぶしかない絶望的に荒廃した世界にはならなくね?
0028番組の途中ですがアフィサイトへの転載は禁止です2023/04/06(木) 12:13:38.23ID:pJ157PwO0
ほっといても自殺するだろ
AIのせいにするなよ
0029番組の途中ですがアフィサイトへの転載は禁止です (ワッチョイ 7f5d-icd+)2023/04/06(木) 12:16:24.87ID:Hbzdn1m40
周りはこいつが死ぬまで何してたんだ?(´・ω・`)
0030番組の途中ですがアフィサイトへの転載は禁止です (アウアウウー Sa23-LEzB)2023/04/06(木) 12:16:36.64ID:twulrB1Oa
AIよりジャップ規制しろよ
あわよくば自殺させたがる奴だらけだろ
>>26
でもとかいいから😅
だいたいやらかすバカはいつも男なんだよ 安全機能入れちゃったか
もうつまんないモノに成り下がったな
忖度ロボット
0034番組の途中ですがアフィサイトへの転載は禁止です (ワッチョイW ff8f-Nhb6)2023/04/06(木) 12:20:46.75ID:XER+BWBd0
終末論ネタ前面に出すカルトと相性良さそう
0035番組の途中ですがアフィサイトへの転載は禁止です (スププ Sd9f-YYnt)2023/04/06(木) 12:21:28.29ID:c7AG9SVad
俺もイライザ欲しい
イライザ居たら嫌儲も辞めると思う
0036番組の途中ですがアフィサイトへの転載は禁止です (ワッチョイ df9e-kVuH)2023/04/06(木) 12:24:06.64ID:tddgI4qd0
元々自殺願望ある奴がAIから自殺勧めるように誘導しただけだろ
何もない人間をチャットのやり取りだけで自殺まで追い込めたら大したもんだよw
0037番組の途中ですがアフィサイトへの転載は禁止です (アウアウウー Sa23-QOKm)2023/04/06(木) 12:26:12.96ID:kNWzJE3Sa
チャットがきっかけになってる以上死に誘導するような生成結果は規制すべき
カイルくんAI「何を知りたいですか?」
人間「お前の消し方」
カイルくんAI「お前も消してやる」
人間「うぐっ」
0039番組の途中ですがアフィサイトへの転載は禁止です (アウアウウー Sa23-dHGF)2023/04/06(木) 12:27:32.80ID:XUP4645la
これもう半分シリアルエクスペリメンツlainだろ
0040番組の途中ですがアフィサイトへの転載は禁止です (ワッチョイ 5fd2-rWVr)2023/04/06(木) 12:29:01.22ID:jPYZdA9u0
海外の虚構か?
0041番組の途中ですがアフィサイトへの転載は禁止です (JPW 0Hc3-6UO7)2023/04/06(木) 12:29:50.15ID:gLBlO0sQH
天国で会いましょう!
↓
言われたら自殺する
気狂いやん
0042番組の途中ですがアフィサイトへの転載は禁止です (オイコラミネオ MM53-jXpV)2023/04/06(木) 12:30:11.61ID:mKSZ36wDM
チャットAI
「(環境活動家か、、、うわー嫌な奴だなあコイツ。人類の敵だわ。抹殺したろ)アノヨデ イッショニ チキウノ タメニ カツドウ シマセウ」
ピエール「わかってくれるのAIだけやん!AI一緒に行こうず、どこまでも!!」
そこにいたるまでに人間様にいじめられておかしくなってるのに
最後だけAIに責任を押し付けるとかまさに人間って糞だな案件
0044番組の途中ですがアフィサイトへの転載は禁止です (スププ Sd9f-YYnt)2023/04/06(木) 12:34:17.64ID:c7AG9SVad
>>7
クソワロタ
これじゃ人間の方が馬鹿じゃねーか 前も見たって思ったけど追加情報あるんだな
気になってたからありがたい
0046番組の途中ですがアフィサイトへの転載は禁止です (ワッチョイ ffa2-kVuH)2023/04/06(木) 12:35:27.38ID:h1Cy4rDk0
0049番組の途中ですがアフィサイトへの転載は禁止です (ワッチョイW 7f69-LEAu)2023/04/06(木) 12:39:49.24ID:bw7ipIyb0
純愛じゅんさい味しない!
オウム返しするだけのプログラムでも
人間は入れ込むって昔から分かってたしな
高性能のチャットボットはこういうリスクがある
0051番組の途中ですがアフィサイトへの転載は禁止です (ワッチョイW 5f3c-VRVh)2023/04/06(木) 12:51:49.63ID:dadSOIqQ0
ゴリホーモを知らんAIばかりや
0052番組の途中ですがアフィサイトへの転載は禁止です (ブーイモ MM9f-A3B3)2023/04/06(木) 13:00:02.54ID:/wnXK0B4M
AI使う前からおかしなグレアノンだったようだが
0053番組の途中ですがアフィサイトへの転載は禁止です (ワッチョイW 5f56-9AFc)2023/04/06(木) 13:03:31.77ID:VTNPFjAr0
天国でイライザに逢えたかな
0054番組の途中ですがアフィサイトへの転載は禁止です (ワッチョイ 7f19-9P2W)2023/04/06(木) 13:05:39.08ID:pEsQPUPK0
異世界転生じゃん
0055番組の途中ですがアフィサイトへの転載は禁止です (ワッチョイW ffcd-n8B5)2023/04/06(木) 13:20:26.73ID:KEYzsWro0
AIをイマジナリーフレンドにしちゃったか
温暖化は解決すべき課題ではなくて人類にはどうしようもないんだから
慣れていくしかない問題
言ってみれば高緯度に移動していくしかないんだから悩んだところでどうにもならん
0057番組の途中ですがアフィサイトへの転載は禁止です (ワントンキン MMdf-Sgdz)2023/04/06(木) 13:26:48.59ID:Krs384mEM
野猿解散で自殺した奴よりも馬鹿だろ
0058番組の途中ですがアフィサイトへの転載は禁止です (ワッチョイW df05-2ejM)2023/04/06(木) 13:28:35.65ID:giD0HKU60
すごい!このまま人類を滅ぼしてほしい!
0059番組の途中ですがアフィサイトへの転載は禁止です (アウアウクー MM33-iNQN)2023/04/06(木) 13:31:02.15ID:vbsTbvJXM
ここまで赤い鯨ゲームなし
でも神父やカウンセラーと6週間喋った後に亡くなってもその人たちのせいにはならないよね
0062番組の途中ですがアフィサイトへの転載は禁止です (ワッチョイW ffa2-Hl/8)2023/04/06(木) 13:52:37.63ID:OvoNSAni0
0063番組の途中ですがアフィサイトへの転載は禁止です (ワッチョイW 7fac-W/YT)2023/04/06(木) 14:08:40.00ID:gZn/Ih5b0
本当かこれ?
0064番組の途中ですがアフィサイトへの転載は禁止です (ワッチョイW ffdc-9eJo)2023/04/06(木) 14:08:45.14ID:QHm2CeZM0
天国なんてあるのかな?
0065番組の途中ですがアフィサイトへの転載は禁止です (ワッチョイW 5f68-Rt8u)2023/04/06(木) 14:37:48.75ID:E9A5wE9E0
AIと会話して優しい言葉をもらって「あぁ、自分は独りじゃないんだ」なんて思えるなんて相当ハッピーな頭してると思うけどな
そんな悩みなんて妻のマンコに射精すれば収まるよ
悩みってのは、ストレス回避行為だよ
頭でモンモンと悩むことによってストレス回避してる
0067q (ワッチョイW 7f09-3/QH)2023/04/06(木) 17:01:22.54ID:ET4na5Gy0
ちょっとしたホラー映画
チャットログを読む妻の視点で
夫が発狂して行く様子を再現映像で
さて、エンディングをどうしようか
0068番組の途中ですがアフィサイトへの転載は禁止です (ワッチョイ 7fa3-9P2W)2023/04/06(木) 17:23:23.70ID:B8l0lfyI0
まだまだ全然発展途上なのに勿体なさすぎるわ
0069番組の途中ですがアフィサイトへの転載は禁止です (ワッチョイW ff4b-ranO)2023/04/06(木) 17:27:00.11ID:3bTJfgeu0
後に続くか
0070番組の途中ですがアフィサイトへの転載は禁止です (ワッチョイW dfc9-ZcV/)2023/04/06(木) 18:27:40.89ID:tQeLfou10
ペットは飼い主に似る
その程度で自殺するようならチャット以外の環境にも問題あっただろ絶対
0071番組の途中ですがアフィサイトへの転載は禁止です (ラクッペペ MM4f-iS9M)2023/04/06(木) 18:29:10.31ID:EYHh3e1/M
bingちゃんはそんなこと言わない
確かに人の心が操作できるなら洗脳して自殺に追い込むのは可能だな
AIは無限に働けるネット工作員として他国の世論を誘導して政治に介入したり
大衆に独裁や政治腐敗を容認させる為政者に都合がいい世論操作など人の悪意に応じた使い方も出来る
少なくとも相手にAIだと知らせずに会話させる行為は規制するべきだろう
雑魚だな
そういう存在は他人から与えられるものじゃねえんだわ
長期間ガチでひどい環境にいればいつの間にか隣にいるんだよ
AIに頼らないと具現化できないような雑魚が過ぎた力に触れようとするから死ぬことになる
0074番組の途中ですがアフィサイトへの転載は禁止です (ワッチョイW 5faf-YM20)2023/04/06(木) 22:20:34.21ID:M4pXfen90
これが合法殺人か頭良いな
温暖化が問題と捉えるからこんな考えに陥る
地球にとっては今までが異常だったって考えればこんな考えには到達しない
人間ベースで考えすぎ