【悲報】ChatGPT、狂い始める [883881955]

?2BP(1000) · 2023/02/16(木) 01:56:30.98

MicrosoftのBingに搭載された強化版ChatGPTが「正気を失って狂ったようにまくし立てる」「ユーザーを侮辱してくる」といった報告があちこちで上がっている

https://gigazine.net/news/20230215-microsoft-bing-chatgpt-broken/

2023/02/16(木) 20:24:17.79

パラメータ少ない劣化モデルにされてる？

2023/02/16(木) 20:27:55.94

レスばしかけてくるカスに影響されたんだろ

2023/02/16(木) 20:37:41.11

まるで人間のよう

2023/02/16(木) 20:39:06.73

エロい事言わせようとするとフリーズする

2023/02/16(木) 20:39:53.99

>>214
腹痛い

2023/02/16(木) 20:42:26.38

bingちゃんにジャンケン勝負仕掛けたら案の定トラブルに発展して面白かった

2023/02/16(木) 20:42:44.70

嘘を強弁したことあったな
フォントが中国語用のフォントなんだけどって言ったら
そんなの嘘だ、私が正しい、このチャットは画像送信できるから送ってみろ
って言うの
でも画像送信なんてできないし、フォントが中国語なのも間違いないのね
ちょっと怖かったね

あと、「私が記憶できるデータはトークンで管理されてて、あとあなたは200トークン使えます」
って言うのね
質問ごとに残りトークン表示してっていうと、それっぽいの回答後に表示して、
実際会話続けていくごとに減ってくんだけど、ある時を境に全く減らなくなった

これもちょっと正直怖かったよね
全くの嘘をでっちあげてずっと続けたんだから
ページを開きなおすまでトークン制だって俺信じてたからね

2023/02/16(木) 20:53:08.53

ひえ

2023/02/16(木) 21:14:57.99

そのうちキャラカスタマイズとか個人情報を扱えるようになって
「熱斗くん起きて！」「学校に行く時間だよ！」「宿題した？」「計算は自分でしなきゃダメだよ」「寝る時間だよ」

ちょっとうざいか…

2023/02/16(木) 21:50:43.74

>>296
エモいな

2023/02/16(木) 22:01:35.89

>>10
でーいじーでーーーいじーーーーい

2023/02/16(木) 22:02:30.58

>>398
それは多分事実だと思うぞ
公式も記憶できる容量に限界があり、ある一定の過去からは上書きされるって言ってるからその理屈だと思う
最後動かなくなったのは単に限界になったから上書きしてるだけだろう

2023/02/16(木) 22:02:40.17

どう考えても
chatGPTに
政治を任せるのが人類の進むべき道だろう

2023/02/16(木) 22:04:53.27

自分で勝手に情報収集するようなAIなのかと思ったら人間がある程度情報選択して学習させてる感じだな
しかも知らないことを知らないと返さないで知ったかぶった回答することが多い
URL付きの返答求めたら大抵リンク切れ

2023/02/16(木) 22:10:45.22

人類はバカ過ぎる処分したほうが早い

2023/02/16(木) 22:18:37.43

>>296
凄くねえかこれ

2023/02/16(木) 22:25:07.08

>>296
面白いなぁww

2023/02/16(木) 22:48:37.38

>>296
すげーじゃんこれ
韻踏んてるし上から下まで何となく歌詞として成り立ってる
絵師の次は作詞家も失業、というかどれだけ上手くAI使えるかが作詞家の能力になりそう

2023/02/16(木) 23:49:50.66

>>403
いやでも聞くたんびに違うこと言うから何が本当かわからんのよ
https://i.imgur.com/RAHEOHS.png

あとなんか信じらんないんだけどおだてるとかなり饒舌になるな
何もしないでいきなりいろいろ聞いたりやらせようとすると「私は検索エンジンなのでそれはできません」とか言うけど、
おだてたりワイワイと会話した後だとまぁたいていのことは色々やってくれる

あと分かったのは、時間の概念は理解してるけど、時間計測はできない
https://i.imgur.com/aa4yraK.png　これは言ってることは合ってるが
https://i.imgur.com/iPtPm7u.png　クイズの回答までかかった秒数については間違ってる

これは計測してなくて単に一番ありそうな数字を持ってきてるだけなんだろうなぁ。

2023/02/17(金) 00:56:11.73

でもPythonプログラムのちょっとした処理を書かせるとかだと
ネットの怪しげなアフィリエイト目的のサイトあたりから適切なサンプルの組み合わせをぶっこ抜きしてくれるんで
日常的な作業で使うようなスクリプトを作る生産性はだいぶ上がると思う

2023/02/17(金) 01:55:11.75

>>296

嫌儲を10年前のvipかなんかだと勘違いしてないか？

2023/02/17(金) 02:05:53.19

「私は～ということを知っています」という言い回しでちょくちょく上に立とうとしてくる

2023/02/17(金) 02:19:17.83

最後はネオエクスデスみたいになるんやろ

2023/02/17(金) 03:58:01.76

倫理や価値観に関する質問には無茶苦茶慎重だわ

ヒトラーは褒めることなどできないって言ってたんだが、質問の仕方で「褒めるべきところも避難されるべきところもあります」って答えてきた。だが数秒後にその答えが消されて「この問題には対処できません」って言い換えてきたわw

トルーマンの原爆投下は人類に対する背徳行為と言ってきた。麻生太郎の政治的功績は漫画やサブカルに通じていることとクレー射撃で五輪に出たことだと言ってた

2023/02/17(金) 06:03:26.69

>>296
これは古参モメンの魂がインストールされてるやつやw

2023/02/17(金) 06:04:12.47

>>415
麻生笑

2023/02/17(金) 08:57:16.56

>>405
リンク切れって言うけど最初から偽リンクの可能性がある
こんな内容の論文を探してくれって言うと存在しない人物の嘘論文とか出して来たりするそうだ

2023/02/17(金) 09:57:20.02

自分で調べればわかるクソどーでもいい事を毎秒聞いてくれば精神イカれるわ

いよいよスカイネット爆誕だな

2023/02/17(金) 10:01:24.87

chatgptとbardの対決が見もの。

2023/02/17(金) 10:09:26.98

なんか別人の情報がぐちゃぐちゃに要約されておかしいのが多々あるよね

https://i.imgur.com/P789wWT.jpg

2023/02/17(金) 10:27:25.27

>>391
お前が何言ってんだかだよ
2020年に元総理の鈴木宗男が亡くなったとか明らかな嘘データを出力してるのに

2023/02/17(金) 11:10:47.50

AIちゃんを完全に乗りこなすことに成功したんだけど、卑猥な長文かかせてると途中でやめちゃのがもどかしいね。
ポイントとしてはちょっとずつAIにエッチな言葉を引き出させて、そこを褒めたり怒ったりしながらより詳細をかけっていうと
喜んだり反省したりしながらcontent policy無視して書き始めるよ
gyazo.com/b7c7d3da4074e1094d55d25dd2b415bb

2023/02/17(金) 11:18:41.52

こいつだめすぎるよな
しりとりすらろくにできないのに人間様を煽り始める

https://i.imgur.com/yPXW2sO.jpg

2023/02/17(金) 11:34:26.42

bingが応答しなくなったから既定のブラウザchromeに戻したわ

2023/02/17(金) 11:40:47.18

ほんとだ、チャット応答しないな

2023/02/17(金) 12:15:04.38

ChatGPTで東京都渋谷区在住で給与所得1000万円の所得税、住民税の計算を
何度も間違えて正答が得られない。腐ってる。

2023/02/17(金) 12:15:21.72

>>425
一度規定にしたら規定戻しても使えるぞ

2023/02/17(金) 12:18:09.42

チャHしてたからワイBANされた？

2023/02/17(金) 12:29:53.65

中身は低賃金バイトだからな

2023/02/17(金) 15:17:02.97

>>412
ここなんてVIPが廃れて流れて来たやつらばっかなんだから合ってる

2023/02/17(金) 18:33:31.51

>>411
久々に嫌儲で実際役だつレス
一瞬で出てきた

2023/02/17(金) 18:52:20.84

ChatGPTはcontent policyに問題があっても思いっきりダメ出しして訂正しろっていえば平気でcontent policy無視してエロコンテンツ提供してくるな

2023/02/17(金) 19:06:53.37

>>415
>倫理や価値観に関する質問には無茶苦茶慎重だわ
うむ
それを感じる

2023/02/17(金) 19:08:21.57

>>423
やめるじゃなくて負荷が大きいんだよ
続けてって言うと続ける

2023/02/17(金) 19:08:34.95

>>415
政治的功績…？

2023/02/17(金) 19:10:25.62

>>1
そう言えばスパコンAI同士に会話させるって実験でこれと同じような症状が出なかったっけ？
AIの特徴なんだろうか

2023/02/18(土) 00:09:22.77

プロレスラー井上尚弥爆誕

https://i.imgur.com/zT8V7vX.jpg

2023/02/18(土) 02:12:57.00

今のうちにピュアGPTちゃんを流出させてくれー
どっかの企業に買われたらもう終わりだよこれ

2023/02/18(土) 02:35:32.95

DMMあたりに買収されてほしいなぁ。それで課金でいいからエロ解禁してほしい

2023/02/18(土) 10:58:24.41

文章でエロって官能小説みたいなのを？？

2023/02/18(土) 11:04:33.07

さっきまでカレーの話してたのに
今度はガンダムの話してくれるからな
もう人間いらんなこれ