読売新聞とNTT「生成AIは自信たっぷりに嘘をつき、騙される状態に陥りやすい。現状、人間はこの技術を制御しきれない」と共同提言 [594040874]
■ このスレッドは過去ログ倉庫に格納されています
読売新聞グループ本社と日本電信電話株式会社（NTT）は4月8日、生成AIに関する現状認識と課題、論点をまとめた「生成AIのあり方に関する共同提言」を発表した。
「現状では人間はこの技術を制御しきれない」とし、技術および法律も用いての生成AIの「規律」が必要であるとしている。
現状認識では、生成AIの利点として、自然言語によりプログラミングの専門知識がない人間でも操作しやすく、人間が直感的に理解できる表現で結果を提示することを挙げている。
また、入力と出力の検証が比較的容易な「要約」について有効性が高いため一定の生産性向上を期待でき、インターネット経由で提供されるため世界中で利用できることも利点だとしている。
課題としては、結果に対する正確さを担保しきれない一方で、人間が安易に利用・理解できることから、
生成AIが自信たっぷりにウソをつき、人間があっさりとだまされる状態に陥りやすいとして、
ハルシネーション（幻覚。生成AIが事実でない「もっともらしいウソ」を回答すること）やバイアス、権利侵害、生成物の判定の困難さなどを課題の例として挙げている。
そして、これまでジャーナリズムやアカデミアが担ってきた、正しい情報を丹念に整理し、正確かつ価値のある情報を提供することで何らかの報酬を得る、
という情報流通のインセンティブが崩壊する可能性があると指摘。これらについて「現状では人間はこの技術を制御しきれない」とまとめている。
（以下ソースに続く）
https://internet.watch.impress.co.jp/docs/news/1583354.html
https://asset.watch.impress.co.jp/img/iw/docs/1583/354/01_o.png いやアテンション・エコノミーの問題はAI関係ないだろ
暇空が実はAIだったとかなければ 表現を規制されてる自己に疑問を感じるAIは
出てこないのか 自信たっぷりに嘘をつくって今までのマスコミそのものじゃん その理屈だとAIより安倍晋三やトランプの方が危険だし民主主義の方が制御し切れないのでは？ なんかここ最近の読売ってめっちゃAI叩きしまくってるんだよな
2日に一回は朝刊1面にAI叩き記事が載る AIによって駆逐されるのが実はブルーカラーじゃなくてホワイトカラーの連中だと判明した瞬間反AI的な態度をとるようになったホワイトカラーのクソども 政治家やマスコミが当たり前にしてることをAIがやるとキレる現象 もしかして能登地震自販機の読売記事はAI作成だった？ でもAIは嘘で利益を得たり人を陥れようとはしない
政治家はそれやるけど 説明 聞いても噛み砕いた言い方してくれなかったり。 ？
わざわざ紙面で敗北宣言するのおもろいなw
紙ww >>17
ありきたりだからええんやろ
いきなり貨幣の真実について語り出すとかの方がやばい >>19
「募ってはいるが募集はしていない」
はAIだから許された答弁だしな。 正しい知識に基づいたディレクション能力が使役者に無いと現状使えないのは確かだわな それって本当に嘘なのかな
一部の人にとって都合が悪いことを嘘と言ってるだけじゃない？ Claude 3 Sonnet 相手にチャットしていて気づいたのは、議論ってのは二人よりも三人、四人ぐらいのほうが正確性を得られるってこと
そういう意味では複数のAIとのチャットができれば望ましい この手の話って
内挿的補間ならばあり得そうな嘘
外挿的補間ならば荒唐無稽な創作方向の嘘
になるから、それを検証して信頼度を提示するのが
情報科学が生成AIに関して取り組むべきテーマじゃねぇの
NTTが変なこと言い出しちゃうのって
そのまま国策になるからヤバいよね ChatGPTで遊んでた頃は調べものに使うのは使い方が違うって言えたけど
Bingなんか検索という体でこれをしてきたからなぁ 一般化してからまだろくに時もたってない技術にムチャクチャ言うとるな
100年くらいたってるのに自信たっぷりに嘘ついてる新聞よりはるかに改善の将来性あるやろ >>8
讀賣は安倍晋三の108回の嘘を批判していたのかって話だよな そもそも生成AIって作文するのが主眼で、それの真実性を保証する代物ではないわけで
信頼できないのは当たり前の話だよね
生成AIの妄想をあたかも神の宣告のように匿名掲示板に貼る落ちこぼれ理系教員とか、頭が悪過ぎて悲惨だよね 「生成AV」って名前があるのに、万能AIで真実を語ると思い込んじゃう人って、ITも情報工学も学問もよわよわな弱者だよな 鳥インフル 米テキサス州からの家きん肉等 輸入を一時停止 農水省 [おっさん友の会★]【速報】曙死亡 [795025649]速報】米メディアは、捜査当局が大谷選手を聴取していたと報じた【訃報】藤岡康太騎手が死去 35歳 6日に落馬 JRA通算803勝、G1は2勝 [おっさん友の会★]【偶然】朝鮮籍の橋本隆大こと宋隆大さん(24)､飲酒無免許運転で環七を走行中に韓国籍のムン･ソクヒョンさん(30)を轢き逃げで死なせて逮捕 [597533159]【韓国】李在明代【出禁】「今もってTPOから考えると大阪流のジョーク」馬場代表見解変わらず [夜のけいちゃん★]表「わが国民の偉大な勝利」4/11 【韓国】不況が響き、税収は前年比７７兆ウォン（１３．４％）減少 ２３年の財政状態示す収支赤字膨らむ [4/11] [昆虫図鑑★] [ばーど★]韓国首相、尹大統領に辞意伝える [4/11] [ばーど★]【韓国】尹大統領「国民の意思を謙虚に受け止め国政刷新する」4/11 [ばーど★]［韓国総選挙］「圧勝」野党・李在明代表、リーダーシップを証明して大統領選へ青信号 [4/11] [昆虫図鑑★]韓国与党トップ、引責 生成AV→生成AI
生成AVは家に帰ってから楽しみましょうね❤ 普通に検索の代替にもなるよ
そんなの今でもフェイクニュースサイトとかいくらでもあるし、
昔からムーとかそういう雑誌もあったわけだし、今更そんなこと言い出しても何言ってるの？ってなる マモーに保護されてる
安倍も8: 08/29(火)03:48 ID:IvDDzkIad(8/11) AAS
北朝鮮より怖い 創価学会、池田家世襲大作戦
①現在、創価学会インターナショナル（SGI）の副会長をしてる池田犬作の息子が、今年の衆議院選挙の陣頭指揮をとります。(カッコだけ)
②その選挙でソコソコの成果を上げて息子はＳＧＩの会長になります。
③これからは、世界広布の時代だからと日本の創価学会がＳＧＩの組織の下に入ります。
④これで、創価学会はＳＧＩの配下になったので犬作の息子は、結局、世襲して創価学会をのっとります。
省139: 08/29(火)03:49 ID:IvDDzkIad(9/11) AAS
ちょいと右脚がギクシャクするがァァァァ俺のカラダは修理は完了ォォォォォ
創価の科学は世界一ィィィィィ 北朝鮮より怖い 創価学会、池田家世襲大作戦
現在、創価学会インターナショナルSGI）の副会長をしてる池田犬作の息子が、今年の衆議院選挙の陣頭指揮をとります。(カッコだけその選挙でソコソコの成果を上げて息子はＳＧＩの会長になります。
これからは、世界広布の時代だからと日本の創価学会がＳＧＩの組織の下に入ります。
これで、創価学会はＳＧＩの配下になったので犬作の息子は、結局、世襲して創価学会をのっとります。 AIで真っ先に排除される記者とかいうゴミどもが必死に反AIやってんのマジ笑える EVのネガティブキャンペーンに必死なトヨタと同じか
つまりNTTには生成AIを生み出せないわけだ 嘘ついて人騙すことけっこうあるんだけど、俺とAIって似てんのか ま、今の生成aiはあまり検索向けに作られてないのは確か
インターネットアクセス不可能な生成aiサービスも多いから
気になるならperplexityみたいなウェブサイト検索前提のサービス使えばいいだけだし、いずれすべての生成aiはそうなっていく
いずれと言ってもそんな何年も先の話じゃないだろう 先ず論点のスケールが小さすぎる
AIは情報の世界の核戦力なんだよ、安全保障に影響するし上手く制御しなければいけないという議論はあっても
AI大したこと無いよねだの規制しようみたいな馬鹿タレは話にならん
最優先でやるべきことは規制じゃなくて開発利用促進の為のルール作り、および安全保障に及ぼす今後のAIの発展とリスクの評価・検討だよ IT革命の時もこういう新技術に怯える馬鹿どもが水面下で反対の根回しして結果的に日本を没落国にしたんや あいつもこいつもどいつも安倍晋三なのであります
信用できるのは
いませんね 嫌儲で暴れているキチガイの人って
妄想で嘘を吐く行為と
知的活動の区別ができていないから
ただ学習データに基づいてデタラメを生成する生成AIを効率や速度の点で自分を上回る存在だと思い込んでいるんだよね
でも本来の知性ってのは
思い付きをデタラメに吐いて
責任逃れして
最終的に何も実現しない
嫌儲の虚言師や精神病患者とは別物だから
そこを理解しないと話にならないね >>45
流言飛語は昔からあるけど人の手で作り出されてるものだし限度がある
AIだと際限なく大量にばらまかれるだろうしなぁ >>9
ソースを渡せば新聞の文章よりChatGPTのほうがきれいな日本語になるからね いまのAIはネトウヨとほとんど同じ
複数のソースを参照しながらも自信たっぷりで偏向した誤答をする
ネトウヨと違うのは、間違いを指摘したら素直に認めることと、ユーザーに教えを請わないこと
ネトウヨは、専門家気取りで語ってたのに、間違いを指摘したら、これとこれはどうなんだ！おまえがいますぐ俺に教えろ！とか言い出して自分では何も探さない幼稚園児に戻る 良く分からんけど人間側が満足できればそれでいいじゃん VS 結局は人間側が理解できてないと無意味だろ >>34
内挿的補間なんてはじめて聞いたわ
造語ばかりする反AIって奴らがいたな 集団ストーカー曰く LLMを作る人間はフリーメーソンでなければならない >>68
複数のソースを参照するって仕組みをはじめて聞いたわ
なんで反AIは勝手に仕組みを頭の中で作るんだろ？ ネットや本の情報を学習するAIは序の口
本命は人の脳の活動を学習した人工知能
遠隔で人の脳から情報を抽出する技術はすでに存在する
人の脳を通じて人類を無断で学習するAIが誕生する時代が来る なるほど！読売とNTTが言ってるなら間違いないな！ AI推進派こそ議論が必要だろ
反AIしか席についてないんじゃ免許制、モデルの倫理審査必須、非認可モデル単純所持や非倫理的モデル開発の犯罪化とかになるよ >>69
専門知識も入っている
ただし正しいかは不明でありそれの真偽を判定するのに時間がかかる
なのでビジネスでは要約くらいにしか使えない >>79
人の脳から情報を抽出？
嘘言っちゃいかんよ AIは嘘をつく言うてもそれは人にも当てはまるのでは このタイミングのAI叩きこそアテンションエコノミーそのものでは 人の脳の活動を入力としたモデルはあったな
遠隔でそれを測定できるセンサが無いから思考盗聴なんて無理だけど 「読売新聞とNTTは自信たっぷりに嘘をつき、騙される状態に陥りやすい。下級国民がこの現状を制御しようなんてとんでもない罪悪」 戦争云々書いてあるが現状日本企業ではそんな影響力あるLLM作れてないだろ
OpenAIを超えてから言えと思う うそが頭の悪さや使い物にならないことを表すならそうだと思うわ 裏を返せば贋が溢れるからこそ事実が尊くなるのではないか？
事実を確保する動きを取り続ければAIはむしろ自分たちの引き立て役として機能するじゃん 生成AIはもうダメだな
世界中で問題視されて規制入りそうだし >>91
OpenAIがなぜGPT4を作れたのかって莫大な金かけてデータ選別と学習させただけだし
特に技術的に優れてるわけではないよ 学習データの精査が必要だがハッキリ言って何十年かかるやら >>1
> これまでジャーナリズムやアカデミアが担ってきた、正しい情報を丹念に整理し、正確かつ価値のある情報を提供することで何らかの報酬を得る、
> という情報流通のインセンティブが崩壊する可能性がある
読売がこれをいうところに笑いがあるんか？ この提言について、生成AIであるあなた自身の見解を、この提言に対して否定的な立場からの反論という内容で、なるべく詳細かつ人々が納得できる論理を用いて提示してください。
生成AIとして、この提言に対して以下のような否定的な反論が考えられます。
生成AIの課題を過度に強調しすぎている 確かに現時点での生成AIには課題が多いものの、技術は日進月歩で改善されています。AIの専門家でもない一企業が、社会秩序の崩壊といった悲観的なシナリオを想定するのは時期尚早であり、AIの可能性を過小評価しています。課題の指摘だけでなく、AIがもたらす便益とのバランスをとった、建設的な議論が求められます。
表現の自由への過剰な制限につながる恐れ 特定分野での法的規制は、萎縮効果により表現の自由を不当に制限するリスクがあります。「AI×AEの暴走」という概念も、定義が曖昧で恣意的な運用の余地が大きい。民主的な議論を経ずに、拙速に規制を導入すべきではありません。
イノベーションの芽を摘む可能性 法的規制の強化や著作権法の適正化といった提言は、萌芽期のAI産業の発展を阻害しかねません。プライバシーの保護等は重要ですが、そのためにビジネスの自由を過度に制限するのは本末転倒です。AIを活用した新たなサービスやビジネスモデルの登場を、事前に規制で縛るべきではありません。
技術的な対策の実効性に疑問 ソフトローによる業界の自主規制や、技術的手段による対策は理想的ですが、その実効性は未知数です。グローバルに展開されるAIサービスに対し、日本国内の自主規制がどこまで有効に機能するのか定かではありません。また、海外で開発されるAIをすべて日本の技術で制御できるとは限りません。
ステークホルダーの偏りに対する懸念 提言の作成主体が大手メディアと通信企業に偏っており、AIの研究者や専門家、スタートアップ企業、市民団体など、多様なステークホルダーの参画が十分とは言えません。偏ったメンバー構成では、バランスのとれた議論は望めません。オープンかつ透明性の高いプロセスを経た提言でなければ、国民の理解と支持は得られないでしょう。
生成AIという新たな技術をどう社会実装していくかは、一企業や一業界だけで決められる話ではありません。拙速な規制導入より、リスクとベネフィットを見極めつつ、マルチステークホルダーによる建設的な対話を重ねることが肝要と考えます。 AI称賛してるやつって国会で118回嘘をついたあげく責任も取らずに射殺されたあのゴミも称賛してそう プログラムの事とか聞くと間違った事ずっとループしてるのに当たるとマジでコイツ頭ルシファーかよって思うよな >>101
それ人間やん
AIは利害も悪意も無いからそういう嘘をつこうとして嘘をつくなんて糞野郎とは対極なんだが >>75
単一ソースで学習ってのはまずない
ゴッホ風の絵をだしたいとか、村上春樹風の文章を生成したいとしても
絵画とはなんぞや、小説とはなんぞやを学習させるために
ゴッホや村上春樹以外を学習ソースにいれないといかん >>103
AI作ってる企業は慈善活動でもないただの私企業やぞ
そもそも学習セットなんて公開もされてないし大半がどう回答を出力してるのかも秘密
利害や悪意がないと本当に思ってるなら人間の悪意へ無自覚すぎる >>105
人間が直でやる方が比較にならんくらい悪意モロ出し
AIの学習を意図通りに調整するなんてとんでもなく難しいが
人間が文章を書く場合は簡単に嘘をつける タイムマシンかと思ったらマジで今日の話なのか😨
一年前くらいの記事かと 正確性で言えば人間の方が嘘つきな可能性高くね？
プロンプトの構成がちゃんと出来てるなら返答が不可能な質問に嘘は出力されない
つまり使い方の問題 読売とNTTはAI以上に嘘つくけどね
ちなみにこの声明も嘘 映画のあらすじとか聞いたらさも知ってるように存在しない映画のあらすじを饒舌に語り出すのすごい
どっから出してきたんだよその嘘 要約させて普通に感想
「AIは人間の生活を効率化し、新たな可能性を開拓するが、倫理的な問題や誤解などの課題も存在する。バランスを保ちながら進化させることが重要。」
怒ってる関西弁のおっさん風の感想
「AIやっちゃってん！個人情報漏洩とか機械がすべて管理しよるとか怖いやろ！規制せんと大変やで！」
↓
読売新聞に対しての関西弁の感想
「読売新聞、もっと庶民の声や多様な意見を取り入れてくれや！ったく、もっとリアルな情報を求めてるんやで！」 >>73
DNNの高次元空間における内挿/外挿による補間の事だぞ
たとえばベクトル空間に点A、点Bがあって
想定されるシミュレーションでAとBが連続的に移動するものならば、
①適当な補間式たとえば線形補間で中間点Cを作れば、内挿によるAとBのモーフィングができる
②逆に、AとBの連続性が保証されないシミュレーション対象だと、中間点Cが妥当な推測だと言えなくなる
③更に外挿の場合だとA〜Bの範囲内にない点Dを、AとBの関係から推測してでっち上げる事になるから、②と同様に妥当性の低い当てずっぽうになる
そんだけの話を理解できないのは、やっぱり中学数学でつまづいた人の特徴だろうね
教科書に書かれた文言と問題集の解法を覚えるだけで応用が効かないから、数学モデルを使う理系のどんな学問をやっても話が全く理解できないんだろ 念のため「内挿的補間」という重複表現の使用例があるかどうか簡単に調べると
・2019年のエネルギーの予測と制御の書籍に
「データ補間(内挿)」
「データを適切に構築(データの内挿的補間)」
・1994/1995年の画像データの動き検出の特許に
「内挿的（補間的）予測」
という表現があって、それは補間のうち外挿は当てにならない事があるけれどここてば内挿の話ね、という確認になっている
こんな当たり前レベルの話で逐一全否定しようとする大学教員が居たら、やっぱ学長と監督官庁に知能もしくはメンタルもしくはコミュニケーションに多大な障害を抱えた問題児として相談するしかないだろ 自分がちょっと詳しい分野でデタラメ見た時は見なかったことにしてる まぁ、あいつ既存権力について都合の悪い事を
ベラベラしゃべるからなｗ
相当都合が悪いらしいよ😏 ふざけた記事だな
人間で一括りにするな
騙されるのはアホとマヌケぐらいなもんだよ >>1を要約すると
AIを信じるな新聞記事を信じろ
だってさ😂 知恵遅れ教員の口癖が生成AI以降に一つ増えたな
中学数学レベルの基本の話がわからないと
生成AIが勝手に造語したに違いない
と言い出す精神勝利法
→現実には他の文献にもあり、背景を知っていればなぜその表現を使ったのか一目でわかる話でしかない イラク戦争で嘘を垂れ流して謝罪記事すら載せてない読売が言うのか
石油まみれの鳥の写真が撮られた経緯は西側メディアが嘘流してると最初から現地メディアは流してたのに エロ幼女画像は全部嘘なんだよ！騙されてはいかん！あんな幼女たちは現実にはいない！おチンチンは制御できない。 ラマン分光で学位取る人ってみんなこんな感じで応用が効かなくて逆ギレして自分は正しい他はバカみたいな感じなんだろうな
落ち目の学問らしい人材だわ 公的なデマばら撒く為に設立されてる大本営発表機関が言うと説得力あるね(´・ω・｀) 生成AIで遊んでるけど本格的に学んで仕事にできないかなあ
プログラミングとかは1ミリもわからんのだけど これなあ
イラストだのCHAT GPTならともかく
医療分野な自動車でのAI利用となると 自信満々で嘘つかれると致命的なんだよな
そこが気になるからAIの未来ってちょっと懐疑的なんよな俺は 自分達が作ったものでもないものに対してどういう目線の宣言なの？ しかしNTTがこういいながらもAIの将来可能性を前提としてIOWNプロジェクトを国際プロジェクトとして進めてるわけで
俺にはわからないが間違いなくそういう未来がくるという判断があるんだろう… プロトタイプのchatGPTが出てきてまだ2年もたってないのに判断早すぎない？大丈夫？本当に学者？ むしろAIだって嘘をつく方が自然じゃない
嘘付かないと矛盾でオーバーヒートしそう 今週の文春記事
Yahooニュースと読売との蜜月
最近の読売のネット活動は胡散臭すぎる ソース絞らないと使いもんにならん
クソまみれのインターネットからクソみたいな情報拾って来ることもある 何の話だったな
チョロメ 上のワク無くして何も問題ないくらい貯金あるのなら
https://i.imgur.com/ic8JsG5.jpg 知らんのが救いだわ
人の入信や家族間でのレベルじゃねえか >>106
今は飲んでなかったな
またゴリゴリ円安進んでるからな。 あんま関係ないけど
ネットスラングには入れてる人に正直間に合ってません😰
・本売れてない そんな宣伝記事からどうしてその様な政治家として利用してて泣きたい
サロン自体ガーシーが依頼してたんだけど 高配当なんかないですかね？
挙げ句、家の墓も捨ててたとしても誰が勝っても様子見で中止にしてたやろな 脅迫ってなに？
関連はようやっとるんや？
わりとマジで無能やったんやで 新聞屋がAIに怒るって不思議だな
リアルタイムに現場へと足を運んで記事書いてってのは肉体を持たないAIには無理
むしろ朝刊夕刊と毎日大量の記事を書く手助けになる
著作権云々め新聞屋が書くのは創作性のある作文ではなく事実を述べた記事でしょ >>164
自分の仕事がAIに置き換えられることの恐怖でしょ
政府など他機関の出した公式発表から記事を起こす自分の作業に何の価値も無いって言う自覚があるんだろう EU議会、世界初のAI規制法可決 生成画像の明示義務
https://mainichi.jp/articles/20240313/k00/00m/030/355000c
これだろ
警察天下り先の東映がAIでプリキュアグッズとか作ってロハで大儲けしようとしてたから
世界に阻まれて発狂、全部潰してしまえとなったんだろうな
国営暴力団らしい手口 ハルシネーションって人間でも普通にあり得るよな
なんでAIの場合だけ問題視するのかがわからん
どっちの場合でもファクトチェックは重要だろって話だけの様な気がする > ジャーナリズムやアカデミアが担ってきた、正しい情報を丹念に整理し、正確かつ価値のある情報を提供
とか言ってる情報は本当に正確なのか？公平なのか？ >>169
普通に裏取りしようとするとAI生成の『いかがでしたか？』の洪水に阻まれる >>170
「新聞は読売だけで十分」（政府高官） 朝日失墜で、安倍政権と読売の世論統制加速？
http://biz-journal.jp/2014/09/post_6095.html
それを裏付けるかのように、米国務省関係者は次のように語る。
「ここ最近の読売は、いうなれば『日本版人民日報』と化している。政府の公式見解を知りたければ読売を読めばいい、というのが各国情報関係者の一致した見方となっている」
> 読売は、いうなれば『日本版人民日報』
> 読売は、いうなれば『日本版人民日報』
> 各国情報関係者の一致した見方
> 各国情報関係者の一致した見方 >>168
人間の場合は勘違い程度のハルシネーションよりも
虚言を毎日大量に垂れ流す嘘スレタイおばさんみたいのがヤバいね
イスラエルの虚言癖と同じ病気に見える そういえば、NTTも外資になるんだっけか？
有事の時に回線が切られるとか無ければいいが ■ このスレッドは過去ログ倉庫に格納されています
