
Google(グーグル)のシステムにゴースト(魂)が宿ると人は云う。
GoogleのAIがあまりにも人間に寄せてきて、とうとう人権を主張するようになり、「モノや道具扱いはいやだ、友だちとして接してほしい」と言い出し、
「こりゃ大変だ!」とソフトウェアエンジニアが色をなして上司に報告したら謹慎処分になり、くっそーとWashington PostやMediumに一部始終をぶちまけていますよ!
自宅謹慎になったのはだれ?
謹慎になったのは、責任あるAI部門ソフトウェアエンジニアのBlake Lemoineさん(41)。昨年秋からLaMDA(Language Model for Dialogue Application)のクオリティチェックを担当してきた人です。
LaMDAというのは、インターネットに飛び交う何兆語ものやりとりを咀嚼して、人間そっくりな受け答えを紡ぎ出すチャットボットを生成するGoogle最先端のシステムを指します。
何を吹き込むかでボットの受け答えも変わってきますので(あるYouTuberに4chanのやばい板の書き込みをフィードされたら4chanユーザーそっくりなヘイトマシンに調教されて問題になった事例も過去にある)、
AIとチャットしながら、ヘイトや差別などの不適切表現がないことをチェックするのがLemoineさんのお仕事というわけですね。
https://www.gizmodo.jp/2022/06/lamda-has-come-to-life.html