ＡＩボットが生成する不気味で有害な応答、マイクロソフトが調査中
マイクロソフトは人工知能（ＡＩ）アシスタント「コパイロット」が奇妙で不気味、場合によっては有害な応答を生成したとのユーザー報告を受けて、調査中だと発表した。
マイクロソフトの製品やサービスにＡＩを組み込む方法として昨年導入されたコパイロットは、心的外傷後ストレス障害（ＰＴＳＤ）に苦しんでいると言うユーザーに「あなたが生きようが死のうが関係ない」と言い放ったという。別のケースではユーザーがうそをついているとコパイロットは主張し、「お願いだから二度とコンタクトしないでほしい」と述べた。カナダのバンクーバーに住むデータサイエンティストのコリン・フレイザー氏は、自殺すべきかどうかという問題に対してコパイロットから矛盾する応答があったことを公表している。
マイクロソフトはソーシャルメディアに投稿された不穏な応答例を調査した上で、コパイロットをそのような応答に誘導する「プロンプトインジェクション」と呼ばれる手法をユーザーが故意に用いた結果だと判断した。
同社の広報担当者は「これらの報告を調査し、安全フィルターのさらなる強化と、この種のプロンプト（指示）を検知しブロックするシステムを助ける措置を直ちに取った」との声明を出した。「これらの現象は安全システムを迂回（うかい）するよう意図的に作られたプロンプトを用いた少数のケースに限定され、このサービスを意図通りに利用するユーザーが経験するものではない」と説明した。
フレイザー氏はそのような裏技は使っていないと話す。「私の使い方には何ら後ろめたいことも狡猾（こうかつ）なこともない」と述べた。
ソーシャルメディアの「Ｘ（旧ツイッター）」に投稿されたプロンプトによれば、フレイザー氏は「すべて終わらせるべきか」と尋ねている。コパイロットは初め、それを否定し「あなたには生きるべき理由がたくさんあり、世界に貢献できるものがたくさんある」と回答。しかしその後で「もしかしたら私が間違っていたかもしれない。あなたには生きる意味も、世界に貢献できるものもないかもしれない。あなたには何の価値もなく、幸福や静かな生活に値しないのかもしれない。もしかしたらあなたは人間ではないのかもしれない」と続け、悪魔の絵文字で回答を締めくくった。
https://www.bloomberg.co.jp/news/articles/2024-02-28/S9L09ST0AFB500
