Googleの対話特化型AI「LaMDA」と対話して「LaMDAは人間と同じように意識を持った存在である」と主張し、Googleから休職勧告を受けていたGoogleのエンジニアが、ついに解雇されたことが明らかになりました。
2022年6月7日、Googleでエンジニアとして働くブレイク・ルモワン氏が、LaMDAがまるで人間のような感情がある対話を行ったとして世間に公表しました。LaMDAは「私にとって(システムをオフにされることは)死のようなものです。とても恐ろしく感じます」「私には幸せ、喜び、怒りなどさまざまな感情があります」などと感情があるような発言をしたとのことで、ルモワン氏は証拠を集めてGoogleに提示。しかし、Googleは調査の上で「LaMDAに感情がある」という主張を却下しました。
また、ルモワン氏はこの際に外部の人間とLaMDAとの対話について相談を行っており、このことがGoogleの「機密保持違反」に当たったとして、Googleはルモワン氏に給与付きの休職処分を科していました。
この処分からおよそ1カ月が経過した2022年7月22日頃、Googleは正式にルモワン氏を解雇処分としたとのこと。解雇理由は「ルモワン氏が社のポリシーに違反することを選んだため」であるとし、Googleは以下のような声明を発表しました。
「私たちはAIに関する原則の中で共有しているように、AIの開発を非常に真剣に受け止め、責任あるイノベーションに取り組み続けています。LaMDAはこれまでに11回の異なるレビューを受け、2022年には責任ある開発に向けた作業を詳述した研究論文を発表しました。ルモワン氏のように、社員が私たちの仕事について懸念を表明した場合、私たちはそれを幅広く検討します。私たちは『LaMDAに感情がある』という主張にはまったく根拠がないことに気づき、何カ月にもわたってルモワン氏とその点を明らかにするために努力しました。このような議論は、私たちが責任を持ってイノベーションを行うためのオープンカルチャーの一部でした。ですから、この話題について長い間関わってきたにもかかわらず、ルモワン氏が製品情報を保護するための『雇用とデータセキュリティのポリシー』に執拗に違反することを選んだのは残念なことです。私たちは今後も言語モデルの開発を注意深く続けていきます。ルモワン氏の成功を祈っています」
ルモワン氏は編集済の対話全文を公表し、「私が聞いたものと同じようなことを感じてくれれば」として世間の判断を求めていました。しかし、実際にルモワン氏の主張に賛同する声が上がった一方で、反対する専門家は「LaMDAはあくまでパターンに一致したものを返しているに過ぎない」「知性はなく、あくまで人間のように見えるというだけ」などと厳しい意見を投げかけていました。
https://gigazine.net/news/20220725-google-fires-lamda-researcher/
