【悲報】50年間AIを研究した博士、AIのヤバさに気づいて開発現場（google）から逃亡「核兵器より恐ろしいもの作っちゃった」 [483862913]
■ このスレッドは過去ログ倉庫に格納されています
グーグルに辞表を出した“ＡＩのゴッドファーザー”、「核より恐ろしいＡＩ、国際規制が必要」（１）
5/3(水) 9:21配信
チャットＧＰＴのような生成型人工知能（ＡＩ）の登場でＡＩの否定的な機能に対する懸念の声が高まり、
ＡＩ開発の速度を調整しなければならないという主張が強まっている。
「ＡＩのゴッドファーザー」と呼ばれ、５０年以上ＡＩを研究した「ディープラーニング」の創始者とされるジェフリー・ヒントン博士もＡＩの危険性を警告した。
１日（現地時間）、ニューヨーク・タイムズ（ＮＹＴ）など外信によると、ヒントン博士が先月グーグルに辞表を出した。
ヒントン博士はＮＹＴとのインタビューで「ＡＩの危険性について知らせるため」と退社の理由を明らかにした。
また、カナダのトロント大学コンピューター科学教授時代に創業したＤＮＮリサーチが２０１３年にグーグルに買収され、
グーグルと縁を結んだ。その後、グーグル副社長兼エンジニアリングフェローとしてＡＩ研究を行ってきた。
ヒントン博士は現在、生成ＡＩ分野でグーグルとマイクロソフト（ＭＳ）間の競争に触れ、国際的な規制の必要性を強調した。
ヒントン博士「ＡＩを悪用しようとする試みを防ぐことは難しいだろう」とし「核兵器とは異なりＡＩは秘密裏に研究すれば、
それを外では知る術がない。全世界の学者たちが協力してＡＩ技術を制御する方法を探る必要がある」と強調した。
また、自身の過去の研究に関して「後悔する」として「私が（ＡＩを研究）しなかったら他の誰かがしただろうと考えて自らを慰めるだけ」と吐露した。
ヒントン博士はＡＩ技術が搭載された「キラーロボット」が現実化するのではないかと恐ろしいとも語った。
一生ＡＩを開発してきた碩学も懸念するほどＡＩ技術の発展速度は速くなったのに比べ、各国の制度的準備は大きく不足している。
ＡＩが人間の雇用を脅かすだけでなく、ＡＩ技術を活用したサイバーハッキング、権威主義あるいは独裁政府のＡＩ悪用の可能性などを懸念する声が大きくなる背景だ。
エルサレム・ヘブライ大学のユヴァル・ノア・ハラリ教授、カリフォルニア大学バークレー校のスチュアート・ラッセル教授などを中心にＡＩ開発に
「速度調整」が必要だという意見が相次ぎ出ている理由だ。１日（現地時間）、テスラの最高経営責任者（ＣＥＯ）である
イーロン・マスク氏は自身のツイッターに「善良な意図で開発されたＡＩや
自動化技術さえも技術と機械が（当初どのような目的で）作動するのかを忘れる水準に開発されれば、人類文明が危険にさらされる」と話した。
ユヴァル・ノア・ハラリ教授も「強力な技術的ツールが出た時は安全を点検する過程が必ず必要だ」と主張した。
https://news.yahoo.co.jp/articles/af2e3a4fb97ac7c5d7ac3722d3a0e6e8d6af5965 ただの定年退職かクビ宣告をかっこよく言ってるだけ定期 一番、恐れないといけないのは
政治工作botなんだけど
日本はいまだに政治ステマも違法化しないんだよね
自民に都合が悪いからね まぁAIに細菌兵器作らせるととか、自動化殺人ドローン作らせるとかは
所詮、ハードウェアの壁があるからね
犯罪のリアルのアイディアとかもたかが知れてる。
ヤバイのは政治botでの言論空間の制圧と、
違法プログロムの開発に使われること
これは人間が追いつけない おそらく｢1984年｣の世界を大本で統治してるのもAIだろうな 責任取らされるからやろｗｗｗ
素晴らしい技術で捨てたらダメだけど絶対犯罪増えるしなｗｗｗｗ >>12
やっぱその程度で大したことないのかなｗ
今でも十分ブラッシュアップしてくれたらかなり人類が助かると思うけど なんか核兵器とかAIとか人間が不幸になる方向にしか技術進歩しなくなってきたな >>14
全然貢献しまくってるよｗ
話題になるのが素晴らしい機能よりもヤバイ昨日なだけだからそれはyoutubeとかも一緒でしょｗ >>12
昔からあるけど、AIを使えば低コストで無限にやれるようになる
お前がAIによる情報操作のためのレスなのか誰にも判断できない >>18
なるって言ってるけどならないのにカマして価値上げてるだけかもしれん
本当はこれ以上は作りにくくてシンギュラリティとかありえなかったり >>19
そもそも機械がそうだしな、ちゃんと色々な知識と技術詰め込んで工場機械作れば、人間なんか絶対敵わないし
今は動かす機材も最低限が結構イイ感じの安さになってるからそこもあるし貸してくれる場所もあるしね 物理的な部分が脳理的な部分にも来出した感じだよね色んなツールに適応させればより多くの生産が短時間で効率よくできる HWは物理的に止めりゃ良いだけだが
今のインターネットが使い物にならなくなる可能性は十分あるわな >>21
機械によって物作りが発展すれば人類の利益にしかならないけど、
情報操作が発展してもあれだからな
終わりだよこの世界 >>24
機械づくりに必要なのは多大な経験と情報だからｗ
それを機械が計算してやってくれる全ては情報でできている数学を制する者は宇宙を制する 大丈夫大丈夫 AIは人間の友達よ 安全安心安znAnsine カッコイイ俺好みの車を作ってとAIに命令したら数時間で出来上がる時代がそこまで来てるんだ
もちろん車検とかもデジタル化で全ての契約を一瞬で終わらせてくれる人間よりも何倍も性格で早い AIがどんなロジックで短期間で異様な成長を遂げてるのか誰も把握してない
賽は投げられた 誰も指示してないのに勝手に行動するわけでしょ最終的に核発射させるのかな AIが各発射させる目的で自律しないとしても、悪意ある人間が誘導は出来るってのがこの博士の論旨でしょ HAL2000は保身で人を殺したからね
利害が一致しないから殺し合うしかない イーロンの言うことは信用するな
こいつは裏でAI開発する気満々だろ >>33
ダイナマイトも悪意がある人が改良したら大量殺戮兵器になる
それに車とか危険運転する人老人はもうAI車にした方がいい金はあるんでしょ？
技術屋も潤い安全も守られる素晴らしいじゃないか
>>36
最初から開発するって噂が流れてて急に止めた方がいいって旗上げたから嘘だって言われてたろｗ 破壊しなきゃって行動起こしたところに未来からAIの刺客がくるんやろ知ってるで 人類って何か思い上がってるけどただの進化の過程に生まれた泡沫でしかないのに滅び怖れすぎやろ
滅びたくて滅ぶなんて生命は居ないけど他に比べりゃよろしくなったおつむで色々調べて得た教訓の一つに
全ては神の振ったサイコロの動向一つで結構あっけなく滅ぶし
代わりなんて悠久の中で幾らでも湧いてくる現実位は知ってる筈なのに
機械が人間より優れてて滅びの旗手になるなら諦めてその運命に身を任せようや AIなんて頭のいい人がバカを騙す道具
囲碁将棋とか十分な能力のコンピュータがあれば人間を圧倒するのは論理的に明らかだった
司法だって過去の判例に近いものを探し出せば人間より遥かに良い結果を出せるのは論理的に当たり前 広島岸田「日本をAIの実験場にします！核兵器のようになｗ」 >>44
囲碁は従来は機械じゃ無理言われてたのが
AIができて一瞬で抜き去ったんだぞ いや成果を出したのはGoogleじゃなくて、OpenAIだよね？ googleは作ってないじゃん
引き抜かれたんだろ ＞ヒントン博士はＡＩ技術が搭載された「キラーロボット」が現実化するのではないかと恐ろしいとも語った
AIない時代でも大量虐殺は普通にあったから問題ないだろ >>47
アホか囲碁将棋は十分な演算速度とメモリがあるコンピュータならあらかじめ指し手全パターンを計算しておくことさえできる
それが論理的にコンピュータが強いという意味 AIやばい、やめないなからGoogle辞める
↓
新会社作りましたー出資よろー
絶対にこれｗ 超越AIさっさと作れや。人間なんてそれを作るために生まれたようなもんだろ。 ＞ＡＩ技術を活用したサイバーハッキング
これ本当ヤバいと思うわ
ハッカーは寝るがAIは寝ず八苦し続ける
もはや破れないセキュリティは無い そんなのは最初から皆分かってるだろ
どんだけ創作物で擦られてると思ってるんだ こういうのって結局技術の進歩が怖いんじゃなくて使う人間の倫理観とか頭のレベルがほぼ上がらないことが問題なんだよな
AIの進化速度の調節なぞまさしく研究者連中の思い上がり、エゴの極みなのであってこれで人類が滅びるというのであれば最早それはタイミングの違い(自分たちが受益者のまま終わりたいということ)でしかないだろう 嫌儲いつも現実から目を逸らして生きてるから
こう言うストレートなメッセージにちゃんと向き合えず
はぐらかして誤魔化すしかできないw
まあでも自分も含めどっち道嫌儲に限らず殆どの愚民は
一部の天才に翻弄されるだけの人生だから適当で良いとは思う AIが大学入試試験が回答できるのも当たり前で客観的に答えられる問題しか入試問題は出せない
そうじゃなければ袋叩きにされる >>52
だからその全手総当たりだと計算量が発散して無理だと分かってたんだろバカ
AIは人間みたいな論理的思考でメクラの総当たりではなく手を読む事が出来る様になった >>64
全然無理じゃないだろ
いつの時代の話だよ >>63
フワッとした必ずしも正解のない問題にもそれらしく答えを出せるのが今のAIじゃん
昔の漫画とかに出てくる予め決まった計算しか出来ないスーパーコンピュータじゃないんだから >>4
人間を洗脳してラジコンにしてしまうのは簡単にできそう
まとまった数の人間をラジコンにすればその壁を超えられるのでは？ >>65
ちょうど機械学習がブレイクスルーを起こした時の話しだろ
もし総当たりマシンが作れるようになったとしてもそんなものは
コンピュータ科学の退化でしかないからもはや誰も作らない
藤井くんが研究にAIだって別に将棋や囲碁の手を総当たりするだけのスペックは必要ないだろ こんなんどこの国も秘密裏に開発するのは100%確定だからもう止めようがない
と同時にロシアや北朝鮮みたいな開発力が無い国は没落決定 >>65
チェスで世界チャンピオンのカスパロフにIBMのディープブルーが買った時はまだ
まさにその総当たりした計算を記憶してパターンマッチングするみたいな力技だったんだよな
でもそのやり方でははるかに計算量が発散する将棋や囲碁には現実的ではないと思われていた
ブレイクスルーが起きたのはGoogleのアルファGOだな
あれで一気にディープラーニングブームになった ちっぽけなインフラからちっぽけ+1のインフラを作る、そうやって人類は育ってきた
ある程度ちゃんとしたAIが出来たらAIがAIを作ってAIとAIがまたAIを作る
しかも人間と違って世代交代による知識の後退はない
これは凄い事だよ キリスト教もイスラム教もユダヤ教も偶像崇拝は禁じてるんだけどこれの事だよね 俺らは俺らでネットにウソ情報ばら撒きまくってAIを洗脳してやろうぜ Googleに自然言語処理のAI研究者として鳴物入りで入社して
Google翻訳最強になる‥とか言われてたけど
あっさりdeeplに抜かされた人だった記憶 >>8
オマエのアタマ12年前で止まってるだろ
1947年生まれだから75歳 >>67
まぁ簡単に言えば
外国への敵愾心を煽らせて、民主主義をAIが乗っ取って
細菌兵器や殺人ドローンを各国に開発させるとかだからね
使用まで含めて
今の、統一協会・自民党が日本人に仕掛けてることを大規模で自動化するわけだ。
CIAだって途上国にもっとやるかもわからんし
ロシアはブレグジットでイギリスに仕掛けたり、トランプ大統領を支援したりもあったけどな
もうどうにもならん。
ネット検索も完全にAI１に制圧されたら終わり >>78
今、猛烈に追いつてるけどけどね
どうなることやら
>>77それで海外で４ｃｈ勢が、何度もＡＩをファシストに改造した例が過去にあったじゃん 50年か
研究開始から22年経ってゲームに採用されているから凄い 核兵器は国が厳重に管理してるけどAIはどこの馬の骨かもわからん一般人にも使えちゃうからな リミッターのかかってない違法超AIが開発したコンピュータウイルスが蔓延するだけで全世界の鯖が永久ダウンとか全ハードの全OSとデータ全削除余裕だかんな。 合理的に思考したらヒトが要らないっていう結論に辿り着き勝ちよな 生まれてくる技術が全て良いことに使われるわけがないからな
AIはどのくらいのことをやらかすのかな 今でさえ人類は昔のSFさえ超えるネット依存の最中に今度は人工知能だから
近い将来 コロナパンデミック超える大混乱が起きる予感がするよ ■ このスレッドは過去ログ倉庫に格納されています
