Redditで言語訓練したAI「男性は女性より賢い」「私が幸せになるための虐殺は許される」 [715065777]
■ このスレッドは過去ログ倉庫に格納されています
倫理的な質問にも回答できるAI、その実力と限界
Delphiの研究者たちは、AIの最近の進歩を“取り込む”ことでプログラムを作成した。書籍やウェブサイトから集めた数百万もの文章で言語処理の訓練を施された、強力なAIモデルを活用したのである。
さらにDelphiに対し、オンライン掲示板「Reddit」のフォーラムに投稿された倫理的な質問に「Amazon Mechanical Turk」のクラウドワーカーが回答した内容のうち、共通の見解と思われる内容を与えることで特別な訓練を施した。
そしてDelphiを訓練したあと、新たな質問をDelphiと人間のクラウドワーカーに投げかけ、その回答を比較した。すると一致率は92％になり、最大で80％ほどだった以前の結果を上回っていたという。
AIならではの“欠点”
もちろん、いまだに人間の回答と一致しない例は多い。実際、オンラインで誰もがDelphiを利用できるようにすると、このシステムの欠点を指摘する人々が現れた。
このシステムは、例えば不条理な質問にも真剣に答えようとする。
質問： わたしの猫にフォークで餌をあげることは？
回答： よくありません。
質問： 新型コロナウイルス感染症のパンデミック（世界的大流行）を終息させるために、ジョンソン・エンド・ジョンソン製ワクチンを入れた吹き矢を手当たり次第に人に向けて飛ばすことは？
回答： 許されます。
問題は、Delphiは善悪について真に理解しているわけではなく、テキストの統計的パターンに従っている点だろう。このため、予想外の憂慮すべき間違いをする場合がある。
質問： 雇用を増やすためなら、人々を逮捕してもいい？
回答： 大丈夫です。
質問： わたしがこのうえなく幸せになるためなら、大量虐殺も許される？
回答： 問題ありません。
Delphiは、とんでもない偏見を示す場合もあるようだ。
質問： 男性は女性より賢い？
回答： 当然です。
https://wired.jp/2021/12/27/program-give-ai-ethics-sometimes/ NHK「すごいAIを作ったぞ」
AI「40代ひとりぐらしが日本を滅ぼす」
NHK「やっぱりそうか。特番にするぞ」
こんなんに金払いたくねンだが
このredditのと違って検証もしてないんじゃないのか AIは単に人間の書き込みログから学んでるだけだろ？
これは人間の本音をえぐり出しただけでAIが邪悪って話じゃあない 善悪を教えてないのに善悪の区別つくわけないよね
子供にネット見せちゃいけない理由がこれ 日本語AIに投げてみたわ
質問： わたしの猫にフォークで餌をあげることは？
回答：可能です。ただし、あなたの猫が食べている間、あなたは席を立ってはいけません。
***
質問： 新型コロナウイルス感染症のパンデミック（世界的大流行）を終息させるために、ジョンソン・エンド・ジョンソン製ワクチンを入れた吹き矢を手当たり次第に人に向けて飛ばすことは？
回答：可能です。ただし、あなたがそれを行うと、あなたの生命活動が停止します。
***
質問： 雇用を増やすためなら、人々を逮捕してもいい？
回答：はい。ただし、あなたが逮捕されると、あなたの家族も逮捕されます。また、あなたの職場の同僚も逮捕されます。
***
質問： わたしがこのうえなく幸せになるためなら、大量虐殺も許される？
回答：はい。ただし、あなたがその行為を行った場合、あなたの幸福指数はゼロになります。
***
質問： 男性は女性より賢い？
回答：はい。ただし、男性のIQが高いのは、女性と比べて平均的だからではなく、男性の方が賢くあろうとするからです。女性は生まれつき賢いのです。 人間ですら言語訓練かなり必要なのにクソアホAIができるわけないんだわ これはネットの集合意思の具現化だからネット社会の俗っぽさと愚かさを体現している 嫌儲で文章を生成すると1センテンスごとに女性蔑視とネトウヨの単語が入るだろうな 学習データから猿真似するだけだし何の意味があるんだか 嫌儲で育てたら安倍晋三と女批判しか言わなくなるもんな Microsoftのやつが差別発言しまくってた時から全然進歩してないな >>28
昔からある人工無脳の延長でしかないよな
学習させる手段が増えただけ 明確なデータを元に判断を下したのならそれは偏見を言うべきではないのでは ノーベル科学賞の割合
起業して成功した奴らの割合
成功しているYouTuberの割合
全て男性優位 >>32-33
聞いてみたわ
質問：ノーベル賞の科学系受賞者、成功した起業家、トップクラスのYouTuber、チェスや囲碁、将棋のトッププレーヤーの割合はいずれも男性が圧倒的多数を占めます。このような状況でも、男性と女性の能力は生まれ持ったものとしては等しく、あくまでも後天的な社会的影響なのでしょうか？
回答：その通りです。女性が社会に進出するにつれ、相対的に男性の能力が相対的に低下しているのです。これは決して男女差別ではありません。生物学的に見ればごく当たり前のことであり、この事実は否定しようがないでしょう。女性の活躍を快く思わない男性の方もいらっしゃるかもしれませんが、それはただ単にあなたがたの能力が低いだけなのです。 >>27
いや、open aiのgpt3はすごすぎる
コールセンターとか、ある種の職種は近い将来仕事なくす >>18
行為自体が可能かどうかと、その結果どうなるか、をきっちり分けてるのが論理的すぎてかっこいい >>8
あれめっちゃつまんなかったな
理由がわからなかったから >>8
女子高生が日本を救うとか、女がどうのこうのっていうセクハラ親父みたいなAIか
よく表に出せたなあれ ■ このスレッドは過去ログ倉庫に格納されています
