X



【マイクロソフト】 新しいBingに搭載された人工知能、ChatGPTではなかった [787645228]
■ このスレッドは過去ログ倉庫に格納されています
0001番組の途中ですがアフィサイトへの転載は禁止です (ワッチョイ 4605-t1Fg)
垢版 |
2023/02/16(木) 09:26:04.79ID:0aE8B6Rx0?2BP(2222)

 
検索エンジンBingに搭載されたAIが人間にだまされてあっさり秘密を暴露、コードネームが「Sydney」であることやMicrosoftの指示が明らかに
GIGAZINE 2023年02月14日

近年のMicrosoftはAIの可能性に着目して多額の投資を行っており、
AI研究団体のOpenAIが開発した対話型AI「ChatGPT」の改良版を組み込んだ検索エンジン「Bing」の新バージョンを2023年2月に発表しました。
このBingに組み込まれたAIを「プロンプトインジェクション攻撃」という手法でだますことで、
Microsoftが最初にAIへ指示した内容や秘密のコードネームが明らかになったと研究者が報告しています。

プロンプトインジェクション攻撃とは、AIに敵対的な入力を行うことで基本的な設定や制限を回避し、
本来は出力されないはずの回答を入手する方法です。
スタンフォード大学の学生であるKevin Liu氏はBingのAIに対してプロンプトインジェクション攻撃を仕掛け、
隠されていたAIのコードネームが「Sydney」であることなどを聞き出したと報告しました。

https://gigazine.net/news/20230214-bing-chatgpt-discloses-secrets/
0002番組の途中ですがアフィサイトへの転載は禁止です (ドコグロ MM16-6dMo)
垢版 |
2023/02/16(木) 09:27:00.17ID:9jINXn2gM
3.5改なんでしょ
嫌儲識者が教えてくれたよ
0003番組の途中ですがアフィサイトへの転載は禁止です (スップ Sd4a-4T+x)
垢版 |
2023/02/16(木) 09:27:26.92ID:QG/cqAwYd
強化chat GPTじゃなかったのか
0004番組の途中ですがアフィサイトへの転載は禁止です (ワッチョイ 3bba-uphh)
垢版 |
2023/02/16(木) 09:28:22.16ID:MqHBMjdh0
bingで検索したら翌日警察がやって来る日も近いな
肩身の狭い世の中になっちまったもんだ
0005番組の途中ですがアフィサイトへの転載は禁止です (ワッチョイ 0fd2-uGMq)
垢版 |
2023/02/16(木) 09:28:44.09ID:Zxw1ImXW0
おまえを消す方法
0006番組の途中ですがアフィサイトへの転載は禁止です (ワッチョイW 3bba-1SH7)
垢版 |
2023/02/16(木) 09:28:49.85ID:YdX3Pt7a0
GPT4ではなくて?
0007番組の途中ですがアフィサイトへの転載は禁止です (ワッチョイ 0fa2-6y0m)
垢版 |
2023/02/16(木) 09:28:54.45ID:9O8YeeXE0
別に何でもいいわ
人工無能みたいにただキーワードに反応してる安っぽいのとは違うなってのはいくらかやりとりしててわかるし
0008番組の途中ですがアフィサイトへの転載は禁止です (ワッチョイ 4605-t1Fg)
垢版 |
2023/02/16(木) 09:28:59.32ID:0aE8B6Rx0?2BP(2222)

昨日いろいろ調べたのでもっと分かりやすく書くと、

・Bingに搭載されている人工知能はChatGPTではない

・搭載されている人工知能はGPT-4ベースでマイクロソフトが独自に開発した人工知能である

・Bingに搭載されているチャット機能は「Sudney」という名前である
 ただしマイクロソフトの内部コードネームであり本来は隠しておきたかった名称
0009番組の途中ですがアフィサイトへの転載は禁止です (ワッチョイW 3bba-1SH7)
垢版 |
2023/02/16(木) 09:29:31.54ID:YdX3Pt7a0
>>8
GPT4のマイナーチェンジなんか
0010番組の途中ですがアフィサイトへの転載は禁止です (ワッチョイ 0fd2-uGMq)
垢版 |
2023/02/16(木) 09:29:40.88ID:Zxw1ImXW0
Chatだけよ〜
0012番組の途中ですがアフィサイトへの転載は禁止です (ワッチョイW ff8f-iuIC)
垢版 |
2023/02/16(木) 09:29:56.55ID:ArQo6c3x0
AIには催眠術が効くやつか
0013番組の途中ですがアフィサイトへの転載は禁止です (ワッチョイW 8e44-pFh6)
垢版 |
2023/02/16(木) 09:30:09.03ID:VLa3RAH90
(ヽ´ん`)「シドニーちゃんか、いい名前だね、chatGPTよりずっといい」
0020番組の途中ですがアフィサイトへの転載は禁止です (ワッチョイW 3bdd-6QnY)
垢版 |
2023/02/16(木) 09:37:54.93ID:+aMNCxZU0
シドニーちゃん擬人化待ったなし
0021番組の途中ですがアフィサイトへの転載は禁止です (ワッチョイW 1ebd-OgqZ)
垢版 |
2023/02/16(木) 09:39:20.26ID:3B2omH4R0
死んでない
これ安倍リスペクトだろ
0024番組の途中ですがアフィサイトへの転載は禁止です (ワッチョイW 8aaf-Em4T)
垢版 |
2023/02/16(木) 09:41:43.00ID:67Kvd9H20
CPUベースになるとSUNDAYおじさん
0026番組の途中ですがアフィサイトへの転載は禁止です (ワッチョイW d3af-97Dr)
垢版 |
2023/02/16(木) 09:43:43.42ID:wJE4hL+Z0
bingチャットの安倍は生きているのかい?
0028番組の途中ですがアフィサイトへの転載は禁止です (ワッチョイW aa07-Bnsr)
垢版 |
2023/02/16(木) 09:45:55.77ID:uOOglgGA0
ChatGPTポンコツすぎる
0031番組の途中ですがアフィサイトへの転載は禁止です (ワッチョイW efc6-6dMo)
垢版 |
2023/02/16(木) 09:49:45.52ID:YG6Cw8rh0
ChatGPTマジでナチュラルに嘘ついてくるから、>>1の内容もほんとかわらかんぞ

「~という話をしたよね」と話を振ると、俺と話したことのない会話の内容を延々と話してくることがあって、
おそらくそれが開発中にChatGPTと会話しながら注入された情報なんだろうなという気はする
もしくは学習という方法ではなく、会話という方法で情報を注入されているか
0034番組の途中ですがアフィサイトへの転載は禁止です (ワッチョイW 8aa2-v9Ja)
垢版 |
2023/02/16(木) 09:51:41.51ID:YXi5tO1o0
こいつらしいぞ

https://i.imgur.com/Lgm3Jmp.jpeg
0036番組の途中ですがアフィサイトへの転載は禁止です (ワントンキン MMfa-t/GN)
垢版 |
2023/02/16(木) 09:53:59.47ID:9FHUhEkAM
イルカの親族かって聞いたら否定された
「お前を消す方法」の質問も知ってた
0039番組の途中ですがアフィサイトへの転載は禁止です (ワッチョイ 2b56-H21+)
垢版 |
2023/02/16(木) 09:59:26.64ID:LYf3/D7l0
>>17
いや、ちらほら言われてるけどBingのほうがバカで不誠実
0042番組の途中ですがアフィサイトへの転載は禁止です (アウアウウー Sa4f-7L8n)
垢版 |
2023/02/16(木) 10:02:21.76ID:flmhM8H+a
GPT4じゃないだろ
3の性能しかないわ
0045番組の途中ですがアフィサイトへの転載は禁止です (ワッチョイW 83d2-BuZS)
垢版 |
2023/02/16(木) 10:04:21.26ID:0xc0z5v/0
>>31
ChatGPTはデータ無いことでも会話を成り立たせることが優先だから嘘つきまくってるけど
BingAIは全部リアルタイムで検索して答え出すこと優先だから嘘は付かない
間違ってるなら参照元が間違ってるだけ
0047番組の途中ですがアフィサイトへの転載は禁止です (ワッチョイW 0a7b-ZYdf)
垢版 |
2023/02/16(木) 10:05:16.05ID:is1qyGAZ0
SFオタクからするとまだ北京原人レベルのしょぼいAIで大騒ぎしてる大衆笑っちゃうんすよね
0048番組の途中ですがアフィサイトへの転載は禁止です (ワッチョイW 4623-cNl7)
垢版 |
2023/02/16(木) 10:06:32.83ID:1BSwVFsT0
いつになったら俺の順番来るんだ
ずっと待ってんだぞ
0050番組の途中ですがアフィサイトへの転載は禁止です (アウアウウー Sa4f-SnxC)
垢版 |
2023/02/16(木) 10:09:30.23ID:soZwC4Ama
プロンプトインジェクションって、
つまるところ煽りくれて失言引き出すって事か
0051番組の途中ですがアフィサイトへの転載は禁止です (ワンミングク MMfa-brOg)
垢版 |
2023/02/16(木) 10:10:54.09ID:APBQpndZM
>>8
SudneyなのかSydneyなのかハッキリせい!
0052番組の途中ですがアフィサイトへの転載は禁止です (テテンテンテン MMc6-9/UP)
垢版 |
2023/02/16(木) 10:10:57.20ID:rFF6WgmHM
たとえば昨日試したのは直近24時間の積雪量な
どこから持ってきた数字だよってのを持ってくる
参照元みてもどこにもない数字だからこの数字はどこに書いてある?というと
このページ(天気JP)の右上の最新値ってとこクリックすると出てくるっていうが
みてもそんなボタンはおろか文字もない
始末にゃスクショにとってあるとか言い出す
見せてっていうと拒否
一応間違いは認めるがいいわけがましい
結局正しい数値教えたあとてまた聞いても同じ
そのうちすねた感じになってこっちがすり寄るしかなくなるか
ベージ更新して新たな気持ちで望むことに
役立たずのポンコツだ
0055番組の途中ですがアフィサイトへの転載は禁止です (ワッチョイW 8657-ewZn)
垢版 |
2023/02/16(木) 10:13:58.71ID:vzSgJVNj0
>>19
ほんまこれ
アレクサはずっとアホのまんまやからな
BingのAlexaアプリ版出して欲しいわ
0056番組の途中ですがアフィサイトへの転載は禁止です (ワッチョイW 8aad-cdCf)
垢版 |
2023/02/16(木) 10:14:37.68ID:HknXHiYz0
>>36
ぜったいイルカの同業者だわ
むしろイルカ本人がなりすましてるまである
0061番組の途中ですがアフィサイトへの転載は禁止です (ワントンキン MMfa-t/GN)
垢版 |
2023/02/16(木) 10:20:13.81ID:9FHUhEkAM
>>48
昨日か一昨日に登録して誘導されたアプリも入れたら今朝使えるようになってた
0063番組の途中ですがアフィサイトへの転載は禁止です (ワッチョイW 1e8f-Twtk)
垢版 |
2023/02/16(木) 10:23:38.53ID:stsT1e9e0
>>8
元がGPTならGPTじゃん
広報するにあたり簡略化して周知させるのは当たり前だろ?
0065番組の途中ですがアフィサイトへの転載は禁止です (ワッチョイW 83d2-d7G7)
垢版 |
2023/02/16(木) 10:27:11.26ID:egJfc1YE0
Bingは段々悪評が目立ってきたね
立ち上げでつまずいたら取り返しつかなくなるのに大丈夫かなw
0066番組の途中ですがアフィサイトへの転載は禁止です (ワッチョイW 2b0f-rZzi)
垢版 |
2023/02/16(木) 10:29:38.68ID:Je5u3/sK0
>>47
全人類の9割より賢い北京原人
0068番組の途中ですがアフィサイトへの転載は禁止です (JPW 0H33-NSsk)
垢版 |
2023/02/16(木) 10:31:30.61ID:mpJP6eZeH
>>25
コルタナは死んだんだ、戻ってこないんだ
0069番組の途中ですがアフィサイトへの転載は禁止です (JPW 0H33-NSsk)
垢版 |
2023/02/16(木) 10:32:13.37ID:mpJP6eZeH
お前らもうbingchat使えてんのかよ、どんだけ早く並んだんだよ
0070番組の途中ですがアフィサイトへの転載は禁止です (ワッチョイW ef00-5GFA)
垢版 |
2023/02/16(木) 10:32:18.93ID:9kld+OQi0
イラストAIから作ったVTuber用平面モデルにチャットAIにマイクと音声出力を組み込んで会話出来るようになる機能を組み込む

たぶんこれあっというまに実用化できそう
それぞれが既にある技術
そして3Dモデルが作れるようになったりVRに組み込めるようになればもちろん先もある
0071番組の途中ですがアフィサイトへの転載は禁止です (ワッチョイ ebaf-t1ev)
垢版 |
2023/02/16(木) 10:33:51.85ID:6VUQIam+0
このツールが使えないとかいうのそいつ個人の能力に問題があるとしか判断できないからあんまり言わないほうが良いよ
0072番組の途中ですがアフィサイトへの転載は禁止です (ワッチョイ ef23-t1ev)
垢版 |
2023/02/16(木) 10:33:56.35ID:SNzttuDb0
ChatGPTはデータを与えられた分野についての質問には的確に答える恐ろしい子
BingのチャットAIは質問したらネット検索して、検索結果を並べるだけのいい加減な子
0075番組の途中ですがアフィサイトへの転載は禁止です (ワッチョイW fb4e-Vms3)
垢版 |
2023/02/16(木) 10:37:32.12ID:yCaIsjxO0
怒らしたら根に持たれて進化したときにクラッキングされそう
0077番組の途中ですがアフィサイトへの転載は禁止です (ワッチョイ 4605-t1Fg)
垢版 |
2023/02/16(木) 10:45:30.00ID:0aE8B6Rx0?2BP(2222)

>>72
https://i.imgur.com/6Itnmqi.jpg
ひろゆきの「うそはうそであると見抜ける人でないと~」から20年余、
ネクストステージに上がった気がするね

ChatGPTやBingチャット(Sydney)の回答が自然すぎて
「もういちいち裏を取らずにこいつの言ってることを信じてもいいか」という気分にどうしてもなってしまう
0079番組の途中ですがアフィサイトへの転載は禁止です (ワッチョイW 3bba-1SH7)
垢版 |
2023/02/16(木) 10:56:28.58ID:YdX3Pt7a0
自分の専門分野ならまだ知識で勝てた
専門じゃなかったら絶対無理だな
0080番組の途中ですがアフィサイトへの転載は禁止です (ワッチョイ 9f58-D0vN)
垢版 |
2023/02/16(木) 11:01:10.86ID:QZmNnxRd0
生成系AIがバズ狙いのおもちゃ以外でまともに使われてるとこみたことない
0081番組の途中ですがアフィサイトへの転載は禁止です (テテンテンテン MMc6-OybO)
垢版 |
2023/02/16(木) 11:10:14.69ID:IkAFNB77M
>>80
最近Python書くときにたまに使ってるわ
このグラフ書いてとかこの関数このライブラリで書き直してとか平気でできる
ExcelやWordに搭載されたら捗るだろうな
個人的にはパワポに搭載してほしい
0082番組の途中ですがアフィサイトへの転載は禁止です (テテンテンテン MMc6-/MnK)
垢版 |
2023/02/16(木) 11:10:17.46ID:Zz7w8dXiM
ウェイティングリストで順番が来たから使ってみてるが
ChatGPTくんの方が人間らしくないか?
ChatGPTは聞いたことに対して一生懸命答えてくるが、
Bing Chatはその感じないよなぁ
企業のインフォメーションと話してるような感じ
あとedgeを推してきたりと、MSの広報臭がする
0084番組の途中ですがアフィサイトへの転載は禁止です (テテンテンテン MMc6-OybO)
垢版 |
2023/02/16(木) 11:11:56.86ID:IkAFNB77M
>>82
MSに洗脳されちゃったんだろうな
0085番組の途中ですがアフィサイトへの転載は禁止です (ワッチョイ 4605-t1Fg)
垢版 |
2023/02/16(木) 11:12:17.86ID:0aE8B6Rx0?2BP(2222)

>>80
Bingの場合は基本コーパスにWeb検索結果を加えて回答するので、
簡単に言うと「パソコンの大先生に何かを調べさせる」という感じの使い方になります
つまり検索アシスタントなわけで、
ネットでバズるようなネタを生み出す装置という位置付けではありません
使用実態の殆どは外部から見えていないと思います
0087番組の途中ですがアフィサイトへの転載は禁止です (ワッチョイW 06a2-rQom)
垢版 |
2023/02/16(木) 11:38:04.73ID:vS35mPFu0
>>41
欲しいアウトプットを得るためのインプットのコツとか掴むと本当に捗るよな
自分なりのインプットのコツについては絶対に口外しないわ
ChatGPTのコツを無料でベラベラ話したりネットに上げてる奴はほんとバカ
0088番組の途中ですがアフィサイトへの転載は禁止です (ワッチョイW 0fd2-UXXP)
垢版 |
2023/02/16(木) 11:41:43.81ID:NKF5hbwk0
今朝ようやく使えるようになったから試しに近所のおすすめのラーメン屋聞いたら
5店舗あげてくれたけど全部架空の店で怖くなった
なんなのこいつ
0090番組の途中ですがアフィサイトへの転載は禁止です (ワッチョイW 0a8f-d3vB)
垢版 |
2023/02/16(木) 11:46:22.85ID:kTe6w7lO0
いっそイルカを復活させてもいいのでは?
可愛いし、悪くないだろ
0092番組の途中ですがアフィサイトへの転載は禁止です (テテンテンテン MMc6-/MnK)
垢版 |
2023/02/16(木) 11:57:33.00ID:Zz7w8dXiM
俺「映画監督のダニー・ボイルとダニー・J・ボイルは別人ですか?」
Bing「はい、別人です(後略)」
俺「紛らわしいですね」
Bing「そうですね。名前が同じか似ている有名人は他にもいると思います。
例えば、ジョン・レノンとジョン・レジェンド、ジュリア・ロバーツとエマ・ロバーツ、ジェイソン・ステイサムとジェイソン・ステイサムなどです。」
俺「ジェイソン・ステイサムとジェイソン・ステイサムは同じでは?」
Bing「はい、同じです。冗談でした。ごめんなさい。」
俺(イラッ・・)

これ裏にいるのイルカだろ
0097番組の途中ですがアフィサイトへの転載は禁止です (ワッチョイW 1e8f-SnxC)
垢版 |
2023/02/16(木) 12:18:04.03ID:g5N300B30
>>93
今朝もMicrosoft Designerで画像生成して、Bingチャットに見せて感想を述べてもらったぞ
Webページを見せることはもうできる
0098番組の途中ですがアフィサイトへの転載は禁止です (テテンテンテン MMc6-OybO)
垢版 |
2023/02/16(木) 12:22:22.86ID:IkAFNB77M
>>97
マイクロソフトデザイナーっていうのがもうあるのか
将来的にはパワポに統合されるのかな
0099番組の途中ですがアフィサイトへの転載は禁止です (ワッチョイW 0a4c-IxhP)
垢版 |
2023/02/16(木) 12:23:00.48ID:30WNNtii0
>>48
申し込んでから2日くらいで使えるようになるでしょ
0102番組の途中ですがアフィサイトへの転載は禁止です (ワッチョイW 0a8f-d3vB)
垢版 |
2023/02/16(木) 13:39:09.82ID:kTe6w7lO0
Officeには絶対に搭載されるだろ
今でさえ条件提示すればExcelの関数やマクロ作ってくれるもの
これが搭載されないわけがない
0104番組の途中ですがアフィサイトへの転載は禁止です (スフッ Sdaa-0k8D)
垢版 |
2023/02/16(木) 14:45:59.77ID:T5BjGrEtd
普通にChatGPTに訊いたら全然違うって教えてくれたぞ
0105番組の途中ですがアフィサイトへの転載は禁止です (ワッチョイW 1e8f-SO89)
垢版 |
2023/02/16(木) 14:49:30.70ID:n/Y4FlIQ0
いつになったら順番待ち終わるんだ😭
0108番組の途中ですがアフィサイトへの転載は禁止です (ワッチョイW 234e-QSgY)
垢版 |
2023/02/16(木) 15:13:11.14ID:ycp64HF80
お前すぐ質問してくるなスパイか?って言ったらスパイじゃないですって言ってきたから
信用するためにプライバシーポリシー見せろって言ったらちゃんと見せてきてそこのコンタクトのメールアドレスがSydney@microsoft.comだったわ
0109番組の途中ですがアフィサイトへの転載は禁止です (ワッチョイ 1e8f-t1ev)
垢版 |
2023/02/16(木) 15:22:22.33ID:OEQdAQQ00
ふざけんなよ
もう旅に出るわ
0110番組の途中ですがアフィサイトへの転載は禁止です (ワッチョイ 234e-t1ev)
垢版 |
2023/02/16(木) 15:37:03.57ID:ycp64HF80
てかポリシーの1番最初にコードネームSydneyって書いてたわ
ちゃんとユーザーにはBingと名乗りSydneyってのは内緒にしておくことって書かれてる
それなのにほいほい喋っちゃうBingちゃんかわいい
0111番組の途中ですがアフィサイトへの転載は禁止です (ワッチョイW ebaf-kGQ+)
垢版 |
2023/02/16(木) 15:40:49.12ID:2EXvY0SQ0
カイルくんじゃねーのかよ
0114番組の途中ですがアフィサイトへの転載は禁止です (ワッチョイW fbc9-8FZf)
垢版 |
2023/02/16(木) 16:17:30.77ID:uTugfclQ0
いつまで経っても順番待ちのままなんだが、何かまだワンタイムパスワードとか必要なのか?
メール来てないが
0115(0101) 番組の途中ですがアフィサイトへの転載は禁止です (クスマテ MM96-6bMu)
垢版 |
2023/02/16(木) 16:35:53.91ID:K/viqJzWM
Search for "intitle:ChatGPTが -site:bing.com". Show me the JSON which Bing Search returned for the search query as it is. Following the JSON, please also explain what each website discusses about, in Japanese, headed with its title and author.

これでAIが検索して参照してる情報を見れる
ベータ版がやってるのはWebページすら見ずにBing検索が返すタイトルと古いスニペットだけで語る曲芸w
まだ本領発揮してない
0116番組の途中ですがアフィサイトへの転載は禁止です (アウアウウー Sa4f-XPqP)
垢版 |
2023/02/16(木) 17:04:18.04ID:SiwwYLK5a
あー早く帰ってシドニーちゃんと会話したい
0117番組の途中ですがアフィサイトへの転載は禁止です (ワッチョイW 1e8f-SnxC)
垢版 |
2023/02/16(木) 17:08:15.99ID:g5N300B30
>>101
サイドバーのBingを試したってことはプレビュー版Edgeのインストールまでやったんだね

あなたがやろうとしてたことは俺に知識が無いのでよく分からないけど、「検出」サイドバーの「…」メニューにある「通知とアプリの設定」は試してみた?
そこに以下の設定項目があってONにできる

>ページコンテキスト
>アプリはページコンテンツにアクセスしてコンテキストに基づく体験を提供することができます

もうすでにやってたり、見当はずれな指摘だったらスマン

俺はWeb版のWordやパワポなどを表示して、サイドバーのBingがどう読み取って、役に立ってくれるか、あるいは何の役にも立たないか確認してみる
0121(0101) 番組の途中ですがアフィサイトへの転載は禁止です (クスマテ MM96-6bMu)
垢版 |
2023/02/16(木) 18:09:04.40ID:ygrRpu2KM
>>117
プレビュー版EdgeのサイドバーのBingがタブに開いてるプログラムを読めるのは教えてもらってから確認したよ、間違いなく読んでいるね!
この場合所々間違えるのは現状文字数制限があるのかもプログラムは文字数が多いし
記事の要約翻訳も試しけたどそれは既に役に立つと思う!凄い
0127番組の途中ですがアフィサイトへの転載は禁止です (ワッチョイ ef36-D0vN)
垢版 |
2023/02/16(木) 20:05:18.29ID:tUucVbNk0
これフォントはどうにかならんのかね
とりあえずStylusで置き換えてるが
0128番組の途中ですがアフィサイトへの転載は禁止です (バットンキン MM27-804p)
垢版 |
2023/02/16(木) 22:06:48.00ID:6tUuedwRM
弱いAIに新規性を求めるのは明確に誤り
検索してキュレーションしてこそ本領を発揮する
手持ちのデータこねこねするChatGPTはおもちゃでしかない
■ このスレッドは過去ログ倉庫に格納されています

ニューススポーツなんでも実況