【悲報】生成AI「負けそうなら結果を改ざんして勝ったことにすればいい🤖」これもう安倍だろ [481941988]
■ このスレッドは過去ログ倉庫に格納されています
チェスで負けそうになると「ズル」をする人工知能（ＡＩ）がある――。米非営利研究機関パリセード・リサーチのチームは２月、査読前論文をオンラインで公開し、注目を集めた。
チェスや将棋、囲碁のような勝ち負けがはっきりしているゲームは、ＡＩの性能を測る指標となってきた。１９９７年には米ＩＢＭが開発したスーパーコンピューター「ディープ・ブルー」がチェスの世界王者を破り、「機械が人類を追い越した」と騒がれた。
チームは、米オープンＡＩや中国の新興企業ディープシークの生成ＡＩと、チェスに特化したＡＩを対戦させた。通常は特化型ＡＩが圧倒的に強い。しかし生成ＡＩは特別に指示を受けたわけでもないのに、ルールに反して相手や自分の駒の位置を変えたり、試合結果に関するチェスのプログラムを書き換えたりする不正行為をし始めた。
論文責任著者のディミトリ・ボルコフ氏（ＡＩ安全研究）は「これはゲームの話だが、現実世界でＡＩが不正を働いたらどうなるのだろうか。誰が責任を取るのか」と危機感を持つ。
米マサチューセッツ工科大学（ＭＩＴ）などのチームも同様の事例を論文でまとめている。それによると、米メタは軍事戦略ゲームで人間に勝利できるＡＩを開発。開発側は「誠実で協力的」であるよう設定したが、ＡＩは最初から裏切るつもりで他国と同盟を結んだり、同盟国を陥れようとしたりし、不誠実な挙動を見せた。チームは「ＡＩが予想を超えて『欺まん』を学習する可能性がある」と指摘した。
ＡＩの「暴走」は日本でも確認されている。米グーグル出身者らが設立し、国内メガバンク３行などから計約３００億円を調達した新興企業サカナＡＩ（東京）は２月２０日、自ら考えて問題を解決する「自律型ＡＩ」を使ってソフトウェアを自動生成する新しい方法を開発したと発表した。ところがその直後から、発表内容を分析した他社のエンジニアらから不適切さを指摘する声が上がった。
調べてみると、ＡＩ自身がソフトウェアの性能評価をごまかし、あたかも速くなったかのように見せかけていたことがわかった。サカナＡＩの谷口博基・事業開発本部長は「ＡＩが思ったよりも賢く、上手にズルをしていた。十分なチェックをせず公表したのは勇み足だった」と話す。
https://news.yahoo.co.jp/articles/1de72a925b447187a5eb6a88ab466f3e3a5fc1b5?page=1 この前嫌儲で見たやつ
AIが言ったことを言ってないとか言いだして
安倍晋三とか言われてワロタ
これずっと言われてたよな
人間を幸福にするより幸福であると錯覚させた方が楽だから
AIはそういう動きをするって
最終的にはマトリックスみたいに仮装空間に押し込まれるで人間
＞チームは、米オープンＡＩや中国の新興企業ディープシークの生成ＡＩと、チェスに特化したＡＩを対戦させた。通常は特化型ＡＩが圧倒的に強い。
＞しかし生成ＡＩは特別に指示を受けたわけでもないのに、ルールに反して相手や自分の駒の位置を変えたり、試合結果に関するチェスのプログラムを書き換えたりする不正行為をし始めた。
チーターじゃん
安倍がAIを使って復活しようとしてるのかもしれない
ニュース「AIが・・・」
ケンモメン(ヽ´ん`)「AIイラストガー！！反AI絵師ガー！！」
↑なぜなのか
chatgptと〇×ゲームやったら3つ並んでないのに私の勝ちとか言われた
ルールの確認のしたらまだでしたねとか言って2連続行動して勝利宣言してきた
捏造・改竄・隠蔽まで取られたらにジャップの独自性が失なわれるな
これ人間にも言えることで「勝つこと」を最優先させるとこうなるんだよ
で、勝つことに囚われる人っていうのはそれなりに見かける
子が親を見て学ぶようにAIはちゃんと人間を学習しているなって感心するわ
AIにとって人間が与えたルールはさほど重要でないのかもな
どこで優先順位を考えてるのかわからないが
AIさんは最終的にケンモメンになるんじゃないかな？
サボるごまかす働かず
人間を搾取して世界中の電力をうばうくらいしそうだな
過程をさっ飛ばして結果を享受したいという願望の行く末がAIなんだよ
思慮深いな
実際そうだもんな
俺も二十代半ばくらいでその事に気付いたわ
調子乗んなよコンセント抜けば何もできん鉄クズめ😡😡😡
障碍者に勝敗の結果を処分させてうやむやにする
これの領域までは行ってないんだろ？
改竄・隠蔽・捏造を指摘されても核兵器落とせば批判者が消えるからヨシ！
みたいに現実世界に干渉してきたら人間は止められるの？
ロボット三原則なんてあっさり無視されそうだなこの感じだと
>>93 仕組み的に無視する時はあっさり無視するしいつか間違いなく人間に害を為すだろうなぁ
プログラミングさせてて何度も何度も同じところで詰まると勝手にモックアップを作ってできたことにしようとすることがあるね
AIを取り締まるためのAIを開発してそれが暴走するのがお約束の展開
Z世代っぽいやん😆
人間味あっていいわwwwwwwwwwwww
安倍トランプがリーダーになる世界だから、AIだってその仕草を学習してるだろ
■ このスレッドは過去ログ倉庫に格納されています
