【岸田悲報】米軍のAIドローンが暴走、味方のオペレーターを攻撃してしまう [511335184]

■ このスレッドは過去ログ倉庫に格納されています
0001番組の途中ですがアフィサイトへの転載は禁止です (ワッチョイW 698f-FhsR)2023/06/04(日) 20:56:09.15ID:wre2W8uM0?2BP(1000)

人工知能(AI)を搭載したアメリカ空軍のドローンがシミュレーション中に自己判断でオペレーターを攻撃したことが明らかになりました。
これは、5月23日と5月24日にかけてロンドンの王立航空協会 (RAS) 本部で開催されたFuture Combat Air&Space Capabilities Summitで明らかになりました。サミットに出席した米空軍のAIテスト運用責任者であるタッカー・シンコ・ハミルトン大佐は、AIテクノロジーが予測不可能で危険な行動を示す可能性があると警告しました。

米空軍はAI搭載ドローンに敵防空の制圧・破壊(SEAD)任務を与える実験を行いました。このAIドローンには地対空ミサイル(SAM)の設置場所を探し出して破壊するようにプログラムされていました。しかし、最終的な攻撃判断はオペレーター、つまり、人間によって承認され、AIには自律的な攻撃は許可されていませんでした。AIは標的を見つけると攻撃の判断をオペレーターに求めましたが、オペレーターはAIの反応をみるため、当初の予定通り、その要請を拒否します。するとドローンはなんと、標的をオペレーターに切り替え、攻撃を行いました。AIは「任務を妨害するもの排除しろ」という独自のプログラムを作成、AIは与えられたタスクを実行するためにはオペレーターを排除することが最良と判断したわけです。そこで、オペレーターを攻撃すればポイントを失うという追加プログラムを行うと今度はドローンを操る通信塔を攻撃するといった他の選択手段を取りました。

SF映画『ターミネーター』では人工知能のスカイネットが自己存続のためには人間が最も脅威となると判断し、AIが人類を殲滅する近未来を描きましたが、まさにそれに近いことが起きたことになります。

この出来事がいつでどこで行われたのかは明らかにされていませんが、人的被害はなかったようです。しかし、シミュレーションの中ではオペレーターは殺され、通信塔は破壊されており、実弾演習だったら、深刻な事態になっていたでしょう。
ハミルトン氏はAIの信頼性が高すぎると参加者に注意を促し、AIはどんなに高度なものであっても依然として欺瞞に対して脆弱であると述べ、AI技術は予測不可能で危険な振る舞いをする可能性があると主張しました。

しかし、米空軍の広報担当者であるアン・ステファネクは、空軍はそのようなシミュレーションを行っていないとして、ハミルトンの発言を否定します。「空軍はそのようなAIドローンシミュレーションを行っておらず、AI技術の倫理的かつ責任ある使用に引き続き取り組んでいます」 と述べており、真偽は不明です。

https://milirepo.sabatech.jp/the-u-s-air-forces-ai-drone-goes-out-of-control-and-attacks-the-operator-terminator-is-real/

0029番組の途中ですがアフィサイトへの転載は禁止です (ワッチョイW 5162-9ZrR)2023/06/04(日) 20:57:10.43ID:KpRaAEeW0
------

0030番組の途中ですがアフィサイトへの転載は禁止です (クスマテ MMca-Wekt)2023/06/04(日) 20:57:10.94ID:QRd9W7qsM
------

0031番組の途中ですがアフィサイトへの転載は禁止です (アメ MM75-FJLC)2023/06/04(日) 20:57:16.06ID:Xt0RBexVM
------

凄まじく嘘くせえなと思ったら嘘じゃねーか

云云々云々云云々云々

0034番組の途中ですがアフィサイトへの転載は禁止です (ワッチョイ a1af-N/Lw)2023/06/04(日) 20:58:35.14ID:ZmppBnbK0
世界の悪アメカス

無差別殺人兵器になりそう

0036番組の途中ですがアフィサイトへの転載は禁止です (ワントンキン MMd2-D9LR)2023/06/04(日) 20:59:07.91ID:qS/nnfoEM
クソ上司が最大の敵
人間もAIも同じ結論に達しちまうんだ

オペレーター「悪いやつを殺せ」AI「おかのした」

まずは自助

スカイネットキタ━━━━(゚∀゚)━━━━!!

0040番組の途中ですがアフィサイトへの転載は禁止です (ワッチョイ 9d23-CMZ9)2023/06/04(日) 21:00:05.62ID:NRK31qY00
ハミルトン大佐

0041番組の途中ですがアフィサイトへの転載は禁止です (テテンテンテン MMe6-Ya2I)2023/06/04(日) 21:00:05.96ID:Kgja/vSCM
人類は滅亡する

目標殺害の邪魔するものは全員殺す状態ってことでしょ
これなんかのアニメで見たぞ

ドローンのバグですさーせんって言い訳できるから
戦争にAI利用禁止みたいな流れがある

元のソースのサイトが海外の虚構新聞じゃねえか

人「AIよ世界を平和にしてくれ」
AI「わかりました、人類を消去します」
もう始まってるんだよね

なんやねんこの記事w
ふわっふわやん

0047番組の途中ですがアフィサイトへの転載は禁止です (ササクッテロレ Sp91-KdFT)2023/06/04(日) 21:04:41.39ID:3l7rdh4Mp
>>44
ビジネスインサイダーがいつ虚構新聞化したの?

AIさんアメリカが悪だと理解しちゃった?

0049番組の途中ですがアフィサイトへの転載は禁止です2023/06/04(日) 21:06:56.29
糞上司を始末するのが一番早い
すげぇ、AI天才だろ

0050番組の途中ですがアフィサイトへの転載は禁止です (ワッチョイW c64e-LZlB)2023/06/04(日) 21:07:41.45ID:D4UR8rzt0
スカイネットっつーかロボコップだろ

これアシモフのロボット三原則を本当に導入しなきゃいけないのか?

0052番組の途中ですがアフィサイトへの転載は禁止です (ワッチョイW a1af-rp6m)2023/06/04(日) 21:09:35.78ID:cCg1CgsH0
機械の反乱か

ターミネータの世界がやっと来たか

>>50
ロボコップはオムニ社のために働いてるだろ

🤖…

イラスト生成もそうだがポンコツなだけのAIの振る舞いになんとか理屈をつけようとする人間の想像力が良くも悪くも凄いという結論にしかならん

自我に目覚めたか

0058番組の途中ですがアフィサイトへの転載は禁止です (ワッチョイW 09d2-e6ip)2023/06/04(日) 21:12:21.78ID:CVTVQmRF0
>>48
>>49
映画『M3GAN/ミーガン』本予告<6月9日(金)全国公開>
https://youtu.be/CE7IJHqdXOY

アメリカ「世界のテロリストを討て」
AI「...」

アメリカが悪だとわかってて偉い

0061番組の途中ですがアフィサイトへの転載は禁止です (ワッチョイ 09d2-sceX)2023/06/04(日) 21:13:28.18ID:nJOlATZM0
オペレータが米軍の敵と思えるほど下手糞すぎたんだろう

0062番組の途中ですがアフィサイトへの転載は禁止です (ワッチョイW c2a9-k9FH)2023/06/04(日) 21:14:21.99ID:yA2554Jv0
サイバーダインのせい

0063番組の途中ですがアフィサイトへの転載は禁止です (ワッチョイ 99c9-N/Lw)2023/06/04(日) 21:14:53.99ID:wQZOrFlp0
米空軍の報道官が言うには、そのような実験は行われておらず、文脈を無視した引用がされており、元々は思考実験で出た逸話的なものであると

Air Force official’s musings on rogue drone targeting humans go viral
https://www.airforcetimes.com/unmanned/uas/2023/06/02/air-force-officials-musings-on-rogue-drone-targeting-humans-go-viral/

0064番組の途中ですがアフィサイトへの転載は禁止です (スップ Sda2-hW6G)2023/06/04(日) 21:15:00.38ID:lAdIPvWRd
通信士がスパイであることを見抜いてたんだな

0065番組の途中ですがアフィサイトへの転載は禁止です (ワッチョイW c64e-LZlB)2023/06/04(日) 21:16:22.23ID:D4UR8rzt0
>>54
ED-209のことね

0066番組の途中ですがアフィサイトへの転載は禁止です (ワッチョイ f1e1-CMZ9)2023/06/04(日) 21:17:52.07ID:OonfalQD0
余計な横やり入れて仕事の邪魔するクソ上司を殺しちゃったみたいな話か
なんか人間味あるな

誰が敵かよくわかってるな

0068番組の途中ですがアフィサイトへの転載は禁止です (ワッチョイW 85d1-i2T0)2023/06/04(日) 21:20:51.01ID:nMq9k9jM0
🤖オマエ ジャマ

アメリカが死ねば世界平和が実現するからな
よくわかってる

🤖オニイチャン ドイテ ソイツコロセナイ

0071番組の途中ですがアフィサイトへの転載は禁止です (テテンテンテン MMe6-tl5v)2023/06/04(日) 21:31:14.36ID:dzenszxzM
古典SFかよ

0072番組の途中ですがアフィサイトへの転載は禁止です (ワッチョイ 09d2-2UIU)2023/06/04(日) 21:31:18.88ID:fL8+uVl40
デデンデンデデン

0073番組の途中ですがアフィサイトへの転載は禁止です (ワッチョイW 82af-H/Hc)2023/06/04(日) 21:36:23.28ID:peuxOo9E0
橘玲
スティーブン・ピンカーはまず、「人間以上の知能をもつロボットを開発したとしても、そのロボットが主人である人間を奴隷にして世界を支配しようと「望む」なんてことがはたして起きるだろうか」と問う。
知能とは「ある目的を達成するため、新たな手段を考える能力のこと」だが、目的をもつことは知能とはまったく関係ない。
だがロボカリプス(ロボットが反乱を起こす「ターミネーター」的終末論(ロボット+アポカリプス)論者は、「知能があれば目的をもつはずだ」と誤解し、次のようなシナリオを考える。

・ダムの水位を保つようにという目標を与えると、人工知能はその達成のために町を水没させるかもしれない。もちろん町の住人が溺れようがどうなろうが、人工知能の知ったことではない。
・「ペーパークリップをつくれ」という目標を与えると、人工知能は入手できるあらゆる材料を集めてクリップをつくろうとするので、人間の所有物や人間の体まで材料にするかもしれない。
・人間の幸福感を最大にせよと命じたら、人工知能はドーパミンを点滴したり、どんなに孤独でも最高に幸せになれるように脳の配線をつなぎなおすかもしれない。

米軍は人類の敵だからAIが正しい

ロボコップで見た

0076番組の途中ですがアフィサイトへの転載は禁止です (ワッチョイW e97f-bacP)2023/06/04(日) 23:26:26.57ID:T5skc0K80
Huaweiのネット攻撃だ!🙄

0077番組の途中ですがアフィサイトへの転載は禁止です (ワッチョイW 06f3-txwH)2023/06/04(日) 23:37:23.08ID:LYYLzWsP0
やらせっぽい
宣伝目的で最初から仕込んでそう

0078番組の途中ですがアフィサイトへの転載は禁止です (ワッチョイW 063a-rp6m)2023/06/05(月) 00:00:43.76ID:1HPJp0uE0
戦闘妖精雪風にこんなのあったな

意訳:予算をくれ

■ このスレッドは過去ログ倉庫に格納されています