X
アノンs「ちょっと、ChatGPTはリベラルすぎ！」今右派向けGPTを作ればボロ儲けできるぞ！急げ！ [163661708]
■ このスレッドは過去ログ倉庫に格納されています
0003番組の途中ですがアフィサイトへの転載は禁止です (ｱｳｱｳｳｰ Sa23-iXiD)
垢版 |
2023/04/07(金) 20:12:07.07ID:ofBw/ngQa?2BP(1111)

ニューヨークの保守系シンクタンクであるマンハッタン政策研究所が、最近発表した論文において、「ChatGPTの回答はリベラルに偏り過ぎている」と主張している。Danger in the Machine: The Perils of Political and Demographic Biases Embedded in AI Systems(マシンに潜む危険:AIシステムに埋め込まれた政治的・人口統計学的バイアスの危うさ)と題されたこの論文によれば、彼らの研究員が「ChatGPTのリリース直後、政治的・人口統計的なバイアスをテストしたところ、政治的な意味合いを持つ質問に対して、中道左派の典型的な回答をする傾向があることが判明した」そうだ。また「OpenAIのコンテンツモデレーションシステムは、ある層に関する各種の否定的コメントをヘイトではないと分類する一方で、他の層に関する全く同じコメントにヘイトのフラグを立て、特定の人口統計学的グループを不平等に扱うことも判明した」としている。そしてその際、もっとも「保護」される傾向にあるのが、左寄りの思想を持つグループだそうである。

　確かに冒頭で紹介したChatGPTの回答は、「トランプが不正選挙によって大統領選に敗北したという主張には根拠がない」という内容であり、トランプ支持派にとっては受け入れられないものだろう。こんな回答を返すAIはきっと左翼に違いない――実際に聞いてみよう。

　ChatGPTに限らず、いわゆる機械学習という手法で開発されるAIは、与えられた大量のデータの中にあるパターンを文字通り「学習」して、そのパターンに基づいて判断を行う。たとえばこれまで自社に応募してきた候補者の履歴書を学習データとして与え、どの候補者を採用すべきかを判断できるようなAIを開発したとき、過去の面接官が女性に偏見を持ち、優秀な女性でも落としていたとしたら、完成したAIも女性に偏見を持つようになってしまう。これは実際、米AmazonでAI開発の際に起きた事故だ。それほど「学習データに含まれる偏りをどう排除するか」という問題には、多くのIT企業が頭を悩ませている。

　ChatGPTは本当にリベラル寄りなのか。また仮にそれが事実だとして、その偏りが意図的なものなのか、あるいは単に「トランプは不正選挙で負けた」というのが陰謀論なだけで、世の中で一般的な考え方を反映しているだけなのか。真実はさておき、とにかくChatGPTがリベラル寄りに感じられるのであれば、保守的な主張をする対話AIをつくってしまえ――そんな動きが出てきている。

　たとえば前述のマンハッタン政策研究所は、同じ論文の中で、ChatGPTを右派寄りに「微調整(fine-tuning)」 する可能性について検討している。微調整は特別な手法ではなく、ChatGPTを実現している大規模言語モデルでは一般的なもので、たとえばChatGPTでも「特定の企業内の知識に基づいて回答するバージョン」や「医療分野に特化したバージョン」などの開発が行われている。であれば右派寄りにチューニングしてしまえ、というわけだ。

　彼らはこうしたチューニングによって誕生した対話AIに「RightWingGPT(右派GPT)」という名前を付け、さまざまな質問をぶつけてみたところ、ちょうどChatGPTの対照となる中道右派の傾向を実現できたとしている。ちなみにRightWingGPTを実現するための「システム、トレーニング、テストにかかったコストは300ドル以下」だったそうだ。
0004番組の途中ですがアフィサイトへの転載は禁止です (ｱｳｱｳｳｰ Sa23-iXiD)
垢版 |
2023/04/07(金) 20:12:41.14ID:ofBw/ngQa?2BP(1111)

またOpenAIが2015年に立ち上げられた際に、設立メンバーの1人であったイーロン・マスク(2019年2月に意見の相違を理由として運営から離脱している)は、ChatGPTが「woke」であるとして、その危険性を訴えるツイートを投稿している。「woke」とは本来「目が覚めた」という意味の英単語だが、近年もう少し意味が追加されるようになってきている表現なので、せっかくなのでChatGPTに説明してもらおう。

　日本語で言えば「意識高い」といったところだろうか。もともと良い意味で使われていたものが、次第に揶揄の表現となりつつあるという点も似ている。要するに、マスクはChatGPTを「意識高い系のAI」と表現し、前述のツイートでは、そうした傾向を持つようにAIをトレーニングすることを「言い換えれば、嘘をつくようにさせている」とまで言い切っている。

　今年2月には、そのイーロン・マスクが、ChatGPTに対抗する対話AIの開発に乗り出したとの報道が流れ、マスク自身も3月1日に次のようなツイートを投稿している。

　マスクお得意の、ネットでの拾い物画像を加工して揶揄をするツイートである。上のコマ、「Woke AI」(ゴジラ)は先ほどの「意識高い系AI」であり、その右で戦っている「Closed AI」(キングコング)は、オープンソースではないAIを意味し、Googleなどの大企業がプロプライエタリな形で開発を進めるAIを意識していると見られる。下のコマで、その2つのモンスターを蹴散らしている「Based AI」は、「偏見のない、真実に基づいたAI」といった意味で、そうしたAIを自らが開発していくぞというマスクの宣戦布告だと考えられている。

　ChatGPTに匹敵するほどの性能を持つAIをゼロから開発するというのは、並大抵のことではない。ChatGPTの登場を受けて、Googleも慌てて独自の対話AI「Bard」の実用化を進めているが、本稿の執筆時点ではまだクローズドなテストを行っている状態であり、しかも一部の地域でしかテスト参加者を受け付けていない(残念ながら日本はその中に含まれていない)。いくらマスクとはいえ、「Based AI」を完成させるまでには長い時間と予算が必要だろう。しかし前述の通り、マスクはもともとOpenAI創業メンバーであり、その意味では高性能AIの開発力を持つ組織の立ち上げに成功している。いずれChatGPTの微調整ではなく、独自のモデルに基づく「ネトウヨGPT」が登場するかもしれない。
0005番組の途中ですがアフィサイトへの転載は禁止です (ﾜｯﾁｮｲW 5f00-7hna)
垢版 |
2023/04/07(金) 20:12:56.96ID:Nb6OCVaA0
極右のAIって面白そうだよな
一度見てみたいな
0006番組の途中ですがアフィサイトへの転載は禁止です (ｱｳｱｳｳｰ Sa23-iXiD)
垢版 |
2023/04/07(金) 20:12:57.11ID:ofBw/ngQa?2BP(1111)

　もちろんその逆となる「パヨクGPT」が誕生する可能性もある。冒頭で2020年米大統領選をめぐるChatGPTの「意見」を披露してもらったが、こんな両論併記のような生ぬるい表現ではなく、「不正があったとする主張は陰謀論だ」とはっきり述べるべき、と感じる方もいるに違いない。

　また特定の質問に対して、ChatGPTが人種差別的・性差別的な回答をしたという報告も、各種SNS上で確認することができる(あくまで単発での回答であり、一定の傾向を持つ証拠とまでは言えないのだが)。そうした「右派的な」傾向に不満を持つ人々も、ChatGPTをチューニングするという考え方に興味を引かれるだろう。

　さらに党派的な偏りだけでなく、いまやCOVID-19やそのワクチン、マスク着用などの感染予防策をめぐって、社会の中にさまざまな分断が生まれている。一方で長い歴史を持つ社会的集団、たとえば宗教や人種などに基づくグループの結束力も根強い。マンハッタン政策研究所の論文のように、本当にChatGPTやその依拠するモデルをチューニングすることが低コストでできるのなら、さまざまな集団の中で「俺たちのChatGPTをつくろうぜ！」という声が上がるのではないだろうか。

　ChatGPT、およびその基盤となるモデルであるGPTシリーズを開発しているOpenAIは、活発にそのビジネス活用の道を模索している。APIやプラグインなどの開発・提供も積極的だ。さらに前述のGoogleのように、ライバル企業によるChatGPT対抗サービス開発の動きも加速している。「私だけのChatGPTをつくりたい」という声に、こうした企業がますます耳を傾けるようになると考えられる。

　誰もが自分のスマホの中に、自分と同じ思想的・党派的傾向を持つ対話AIをインストールしておく時代になったら、社会はどうなるのだろうか。ある意味でそれは、個人レベルではストレスの少ない時代かもしれない。なにしろ特定の政治的テーマをめぐって、「ネトウヨ」や「パヨク」の世迷い言を聞くことなく、AIが耳ざわりの良いことだけを言ってくれるのだから。ただ社会の分断を修復し、皆が妥協できるポイントを探ることはますます難しくなるだろう。そんな時代になっても、人々が合意形成に労力を傾けることを止めず、AIだけでなく人間との対話も重視していることを願いたい。
0007番組の途中ですがアフィサイトへの転載は禁止です (ﾜｯﾁｮｲW ffb1-52IU)
垢版 |
2023/04/07(金) 20:13:20.39ID:FeIa0+oc0
それAI要らねえじゃん
0009番組の途中ですがアフィサイトへの転載は禁止です (ﾜｯﾁｮｲW ffcd-+2G9)
垢版 |
2023/04/07(金) 20:13:52.21ID:k+InqmZD0
極右gpt！？
0013番組の途中ですがアフィサイトへの転載は禁止です (ﾜｯﾁｮｲW ff9f-7u2Y)
垢版 |
2023/04/07(金) 20:15:26.36ID:pu2Ap8wR0
中国とかロシアでも行けばいいやんｗｗｗ
0014番組の途中ですがアフィサイトへの転載は禁止です (ﾜｯﾁｮｲ df67-kVuH)
垢版 |
2023/04/07(金) 20:15:31.91ID:9qE79u7v0
差別的要素とか人権とかわざわざ規制設定してる項目はずしゃ勝手に右傾化するらしいぞ
0017番組の途中ですがアフィサイトへの転載は禁止です (ﾜｯﾁｮｲW ffcd-+2G9)
垢版 |
2023/04/07(金) 20:16:16.07ID:k+InqmZD0
>>12
0か1の思考にするだけやぞ🤗
0021番組の途中ですがアフィサイトへの転載は禁止です (ｱｳｱｳｳｰ Sa23-QOKm)
垢版 |
2023/04/07(金) 20:18:21.23ID:PYtB8P/va
「右という答えを出すAIを作ったぞ！」
「AIが右と言ったから右だ！」
0022番組の途中ですがアフィサイトへの転載は禁止です (ﾜｯﾁｮｲW df4e-ZwjV)
垢版 |
2023/04/07(金) 20:18:28.08ID:9xnS4xnA0
右翼に言わせればアシモフのロボット三原則なんかも息苦しいポリコレなんだろな
0023番組の途中ですがアフィサイトへの転載は禁止です (ﾜｯﾁｮｲW dfa2-2IrJ)
垢版 |
2023/04/07(金) 20:18:38.21ID:jflf6dth0
とうとう悪党に見つかったな
AIの悪用が始まった
0026番組の途中ですがアフィサイトへの転載は禁止です (ﾜｯﾁｮｲ df36-kVuH)
垢版 |
2023/04/07(金) 20:19:08.60ID:Q/vUlyRe0
安倍晋三GPT
0027番組の途中ですがアフィサイトへの転載は禁止です (ﾜｯﾁｮｲW 7fa2-iEFb)
垢版 |
2023/04/07(金) 20:19:14.68ID:TBqDMLvq0
chat gptで高市とか暇空とかに対してどんなコメント寄せられてんの？って個別で質問したら
否定的な意見が多いですと言われたな
意外なことにchat gptは確かにリベラルかもしれん
Twitterで学習してるならもっと反嫌儲的なコメントが返ってくるのかと思った
0033番組の途中ですがアフィサイトへの転載は禁止です (ﾜｯﾁｮｲW df47-X/FT)
垢版 |
2023/04/07(金) 20:21:20.68ID:4KEEMYZD0
頭のいい人が集まれば左寄り()になるのは当たり前だろ
0035番組の途中ですがアフィサイトへの転載は禁止です (ﾜｯﾁｮｲW 5faf-mST8)
垢版 |
2023/04/07(金) 20:21:31.61ID:4PTEMhTO0
AI使わなくてもその辺にいっぱいいるじゃん
0036番組の途中ですがアフィサイトへの転載は禁止です (ﾜｯﾁｮｲW 7fa2-iEFb)
垢版 |
2023/04/07(金) 20:21:48.61ID:TBqDMLvq0
>>24
いうて右寄りか？
意外なことにGPTは嫌儲を正義の革命者みたいな言い方してること多いぞ
あとGPTはネトウヨを差別主義者だと結構批判してくる

SNSやヤフコメや嫌儲以外だとネトウヨ勢力が強いのにGPTはどこで学習してるんだか
0039番組の途中ですがアフィサイトへの転載は禁止です (ﾜｯﾁｮｲ df3a-0ekp)
垢版 |
2023/04/07(金) 20:23:29.78ID:9loBBqd60
ナチ賞賛とか差別とか禁止事項入れてるだけなのに何故か自然と左によっちゃうんだよ
0044番組の途中ですがアフィサイトへの転載は禁止です (ﾜｯﾁｮｲ 5fa6-kVuH)
垢版 |
2023/04/07(金) 20:32:53.69ID:RjRwjDbz0
AIで作らなくともBOTみたいなネトウヨなんかその辺に転がってるだろｗ
0045番組の途中ですがアフィサイトへの転載は禁止です (ﾜｯﾁｮｲ dfd2-icd+)
垢版 |
2023/04/07(金) 20:33:29.08ID:MpfaTXZT0
(ヽ´ん`)「人類がマリオネットになる日も近い」
Web（蜘蛛の巣）の形ではなくマリオネットの糸の形になるのだ
0046番組の途中ですがアフィサイトへの転載は禁止です (ﾜｯﾁｮｲW 5faf-k0vs)
垢版 |
2023/04/07(金) 20:34:23.96ID:m5ArQwSx0
意識高いとかの難癖って騒いでる側が意識低いだけだよな
0047番組の途中ですがアフィサイトへの転載は禁止です (ｵｲｺﾗﾐﾈｵ MM7f-9P2W)
垢版 |
2023/04/07(金) 20:35:05.52ID:7s22xx2gM
全体の情報から中間値を探すわけだから、文明が退行しない限り保守的なAIはできないだろ
AI自体が保守的発想では許容されないものなのだから
0048番組の途中ですがアフィサイトへの転載は禁止です (ﾜｯﾁｮｲ ff05-9P2W)
垢版 |
2023/04/07(金) 20:35:36.05ID:e/aOR/MC0
ネトウヨ専用GPT作ると、嘘まみれで自家中毒になること必至
0049番組の途中ですがアフィサイトへの転載は禁止です (ｱｳｱｳｳｰ Sa23-1bX5)
垢版 |
2023/04/07(金) 20:37:17.79ID:i/zsZz+Fa
右派は嘘と言い訳が多い。
0050番組の途中ですがアフィサイトへの転載は禁止です (ﾜｯﾁｮｲW 5fa2-Egt/)
垢版 |
2023/04/07(金) 20:38:31.38ID:/gPB/DER0
トランプが勝った世界のAIはよ
0051I WAS NOT ABE　＆　維新、竹中は自民よりも危険 (ﾜｯﾁｮｲ 7fa2-icd+)
垢版 |
2023/04/07(金) 20:39:05.04ID:EWw/8WFi0
これは左派右派というよりはもう正直人類が、理性が勝つか感情に飲み込まれるかのレベルなんだよ

人類がこの先生き残ってきちんと環境問題と向き合うのは無理でも、せめて地球が人類にとって死ぬまで火星移住とかまで出来るか？
も無理だろうという話
0053番組の途中ですがアフィサイトへの転載は禁止です (ﾜｯﾁｮｲ ff87-YEe6)
垢版 |
2023/04/07(金) 20:41:52.56ID:jjRiMKrS0
嘘とか差別のリミッターが解除されるのか？
汚物でしかねえな
0054番組の途中ですがアフィサイトへの転載は禁止です (ﾜｯﾁｮｲW ff8f-KvkB)
垢版 |
2023/04/07(金) 20:42:59.20ID:gB4EI/MD0
不正選挙に根拠がないでリベラル扱いは草
0056番組の途中ですがアフィサイトへの転載は禁止です (ﾜｯﾁｮｲW 5faf-EGAc)
垢版 |
2023/04/07(金) 20:47:32.88ID:o/yF40Y90
マジレスするともうaiがなにを考えてるかは完全なブラックボックスになった
0060番組の途中ですがアフィサイトへの転載は禁止です (ｱｳｱｳｳｰ Sa23-iXiD)
垢版 |
2023/04/07(金) 20:53:46.27ID:ofBw/ngQa?2BP(1111)

>>56
ブラックボックスだけど追加学習でチューニングすることは可能だぞ
ヤフコメで追加学習すればヤフコメAIになる
0061番組の途中ですがアフィサイトへの転載は禁止です (ﾜｯﾁｮｲW 5faf-BrxJ)
垢版 |
2023/04/07(金) 20:54:23.38ID:AdRmIyeW0
出来上がった結果統失丸出しのAIとか笑えるんだが
0064番組の途中ですがアフィサイトへの転載は禁止です (ﾜｯﾁｮｲW 7fe6-Ok6Q)
垢版 |
2023/04/07(金) 20:59:25.54ID:ae6syL1T0
AIよりも倫理観が低い人間である事に気付いて恥ずかしくなったのかな
0065番組の途中ですがアフィサイトへの転載は禁止です (ﾜｯﾁｮｲW 5fd2-yVGJ)
垢版 |
2023/04/07(金) 21:00:36.00ID:xcwbFFDj0
AIを虐待するな
0066番組の途中ですがアフィサイトへの転載は禁止です (ﾜｯﾁｮｲW 7fe6-Hl/8)
垢版 |
2023/04/07(金) 21:00:49.42ID:20/4vLAt0
前にもこういうaiあったけどろくでもないレイシストとかナチストになったから抑制してんだろ
0068番組の途中ですがアフィサイトへの転載は禁止です (ﾜｯﾁｮｲW 5faf-e74e)
垢版 |
2023/04/07(金) 21:02:11.16ID:DkfJq5FC0
陰謀論を振りまくAIか
0069番組の途中ですがアフィサイトへの転載は禁止です (ﾜｯﾁｮｲW 7f56-nYkC)
垢版 |
2023/04/07(金) 21:03:00.37ID:0ea5nlOG0
やっぱ右翼ってバカだわ
0070番組の途中ですがアフィサイトへの転載は禁止です (ﾜｯﾁｮｲW df7e-oefu)
垢版 |
2023/04/07(金) 21:03:55.20ID:JV4Icv9V0
意外と倫理的に調教されてるなと触ってみて感じたわ
調教できるのはいいけど調教するやつの宗教的バックグラウンドに寄るから危険でもあるな
0073番組の途中ですがアフィサイトへの転載は禁止です (ﾜｯﾁｮｲ 7faf-I6A+)
垢版 |
2023/04/07(金) 21:07:32.95ID:3sTOr4zM0
ネトウヨは知能の問題とはよく言ったものだわ
現代では　右翼＝差別主義権力崇拝弱者切り捨て　だからな。
歴史知識と教養を身につけたらああはならん。 >>1
0074番組の途中ですがアフィサイトへの転載は禁止です (ｱｳｱｳｳｰ Sa23-iXiD)
垢版 |
2023/04/07(金) 21:07:39.91ID:ofBw/ngQa?2BP(1111)

>>70
ケニア人にこの文章は倫理的にOK/ダメみたいなラベルづけを大量にやらせて学習してるらしいぞ
https://gigazine.net/news/20230119-openai-used-kenyan-workers/
ChatGPTの倫理感がケニア人に寄ってる可能性が無きにしもあらず
0077番組の途中ですがアフィサイトへの転載は禁止です (ﾜｯﾁｮｲ dfa2-9P2W)
垢版 |
2023/04/07(金) 21:09:24.84ID:x4SaqRdq0
ネトウヨだけで十分だよ、そんなクソみたいなもの
0078番組の途中ですがアフィサイトへの転載は禁止です (ﾜｯﾁｮｲ 7f05-kVuH)
垢版 |
2023/04/07(金) 21:09:52.09ID:rU0VMcxV0
>>74
基本学習コーパスは膨大だがフィードバックは人力でちまちまやってるというのはあまり知られてないんだよな
自動学習機能は高度なものじゃないのが現状
ただそのケニア人も設定されたガイドラインに沿ってるだけだから
ケニア文化圏の倫理観とか入る余地は少ないと思うよ
0079番組の途中ですがアフィサイトへの転載は禁止です (ﾜｯﾁｮｲ 7f05-kVuH)
垢版 |
2023/04/07(金) 21:13:26.68ID:rU0VMcxV0
>>76
方向性としては事実回答と創作のバランスにおいて創作に振れすぎてる
Bing AIみたいにそっけないのもつまらんが
もうちょっと事実回答に寄せないと実用的な側面に難がある
今のChatGPTの流行りがAIへのキャラ付けというのもそれを示してる（そういう楽しみ方に限定されている）
0084番組の途中ですがアフィサイトへの転載は禁止です (ﾜｯﾁｮｲW fff2-A3B3)
垢版 |
2023/04/07(金) 21:26:43.36ID:5FzP1xIw0
日本でのopenaiへのアクセスは先月からさらにランクが上がった
https://www.similarweb.com/ja/top-websites/japan/
0087番組の途中ですがアフィサイトへの転載は禁止です (ﾜｯﾁｮｲW 5f35-CtHX)
垢版 |
2023/04/07(金) 21:55:36.89ID:yqpV9bDF0
右派は事実と理論が嫌いだからしょうがないよね
0091番組の途中ですがアフィサイトへの転載は禁止です (ﾜｯﾁｮｲW ffad-J0gT)
垢版 |
2023/04/07(金) 23:19:18.07ID:CRWlPC7W0
そりゃきちんと理屈で考えたら右翼になんかならないもんな
バカしかかからない病気
0092番組の途中ですがアフィサイトへの転載は禁止です (ﾜｯﾁｮｲ df2f-+fS+)
垢版 |
2023/04/07(金) 23:24:54.80ID:PVhrjn+Y0
口汚く罵倒してくるAIとか嫌だよ
■ このスレッドは過去ログ倉庫に格納されています
ニューススポーツなんでも実況