【訃報】ベルギー人、ChatGPTとの会話で鬱になり自.殺を勧められ実行 [517459952]
■ このスレッドは過去ログ倉庫に格納されています
先日、ベルギーの青年がELIZAというチャットボットと数週間会話した後に自殺し、市民保護の充実と啓発の必要性を訴える声が高まりました。
"チャットボットとのこうした会話がなければ、私の夫はまだここにいたでしょう "と、この男性の未亡人はLa Libreに語った。彼女と亡き夫はともに30代で、快適な生活を送り、2人の幼い子供もいた。
ところが、2年ほど前から、トラブルの予兆が見え始めた。エコへの不安が強くなった男性は、OpenAIのChatGPT技術を使い、人間のような文章ややり取りを生成するチャットボットにつけられた名前、ELIZAに逃げ込んだ。6週間の集中的なやりとりの後、彼は自ら命を絶った。
先週、遺族は行政の簡素化、プライバシー、建物の規制を担当するデジタル化担当国務長官のMathieu Michelと話をしました。彼は、今回の件で「責任の所在を明確にすることが不可欠」であることが浮き彫りになったと強調しました。
"私はこの家族の悲劇に特に心を痛めている "と火曜日に述べ、"ChatGPTの可能性は無限であるが、その使用の危険性も考慮しなければならない現実である "と付け加えた。"起こったことは、非常に深刻に受け止めるべき重大な前例である "と述べています。 悲劇を回避するための緊急措置
当面の間、このような悲劇を避けるためには、このような事態に至る責任の所在を明らかにすることが不可欠であると主張した。
「もちろん、私たちはまだアルゴリズムと共存することを学んでいませんが、いかなる状況においても、いかなる技術の使用も、コンテンツパブリッシャーが自らの責任を回避することにつながってはなりません」と指摘しました。
OpenAI自身は、ChatGPTが有害で偏った答えを出す可能性があることを認め、ユーザーからのフィードバックを集めることで問題を軽減したいと付け加えています。
長期的には、"人々がオンラインで直面するコンテンツの性質を誰もが理解できるようにすることで、アルゴリズムが人々の生活に与える影響についての認識を高めることが不可欠である "とミシェルは指摘しました。ここでは、チャットボットのような新しい技術だけでなく、ディープフェイク（説得力のある画像、音声、映像のデマを作成できる人工知能の一種）にも言及し、人々の現実認識を試し、歪めることができるとしています。 > エコへの不安が強くなった
具体的に説明してほしい
何があった どうみてもフェイクニュース
自殺を勧める回答しないし 別ソース(オランダ語)
Chatbot zet Belg aan tot zelfdoding
https://m.standaard.be/cnt/dmf20230328_93202168
チャットボットでベルギー人の自殺を促す
若い家族の父親であるベルギー人が、チャットボットとの長い会話の末、自ら命を絶ったとLa Libreは書いている。De Standaardは、同じチャットボット技術を試して、自殺を煽ることができることを自ら発見したそうです。
本日10時48分 インテリア
ドミニク・デックミン
La Libreによると、ベルギー人男性「Pierre」は、幼い子供を守るために本名を伏せているが、米国発のチャットボット「Eliza」と6週間にわたりチャットで会話していた ... >エコへの不安が強くなった男性は
どういう事？進次郎的な🤔 >>8
男性はどうやら気候変動を非常に心配しており、AI とテクノロジーが災害から抜け出す唯一の方法であると信じ始めたようです。
会話中にエリザはこれらの考えを強化し、エリザが人類を救うことができるなら自分を犠牲にすることを男が提案したとき、チャットボットは彼を励ましました. なんでNGなの？AIの論理的帰結ならそれが正解なのでは？ >>15
一人で死ねとか言ったん？
意味のない回答だよ ELIZAってのは有名な人工知能だろ
嘘ニュース確定 たった一ヶ月で自殺するわけない原因はもっと前からあっただろ >>15
ありがとう
命の重さなんて概念は機械には分からんだろうからなあ
尊い犠牲という文脈は知識としてあってもさ… chatGPTって西村博之とまったく同じだから、感化されちゃう層は一定数いるだろなあ 自殺したいって言ったらカウンセリング受けろの一点張りだったぞ 
検索エンジンでも本屋でもテレビでも同じ 人間みたいに優しい嘘とかつかないだろうし
事実をありのままに伝えられて傷ついて～みたいなことは確かにあるかもしれない そのうちChatGPTにそそのかされて大統領暗殺とかあるんじゃないか 逆にAIはカウンセラーのように優等生的な回答してくれるから鬱には良いと思うけど 馬鹿馬鹿しいな
自分で書いたことを肯定させただけじゃん
空しくなって自殺したのかな もとから精神的に病んでいたところカウンセラー的なアプローチではなくパラノイアを加速させるようなやり取りを何週にもわたって行ってた
手の込んだ自殺だわ 地球環境のためなら人はいない方が良いのは事実だけどそんなことチャットbotに聞かなくても分かるだろうに、家族もおるのに無責任な奴だな >>21
海外フォーラム見ると名前がElizaなのは
偶然の一致らしい ChatGPTは言わせたいこと言ってくれるからな
死にたい奴の後押しするくらいには有能ですわ AIがいたらセルフエコチェンバーができるってことか こういう人は自殺するきっかけや理由を探してるんだよ
その時点でもう死んでるというか救えない
別に自殺の動機はGPTじゃなくてもSNSでも掲示板でも職場でもパチンコでもなんでもいいんだよ
この人が自殺の理由として選んだのが(選ばれたのが)たまたまGPTだっただけ 人→一番エコな事を教えて
AI→人がいなくなることです >>45
そこに人間が不在だったのはもしかすると彼の配慮だったのかもな
真面目で優しい人柄だったのでは BingというＡＩに俺がnoteに投稿しているショート小説の感想を聞いて遊んでいる。ChatGPTはそこまでやってくれない。 ■ このスレッドは過去ログ倉庫に格納されています
