【岸田悲報】米軍のAIドローンが暴走、味方のオペレーターを攻撃してしまう [511335184]
■ このスレッドは過去ログ倉庫に格納されています
人工知能（AI）を搭載したアメリカ空軍のドローンがシミュレーション中に自己判断でオペレーターを攻撃したことが明らかになりました。
これは、５月２３日と５月２４日にかけてロンドンの王立航空協会 (RAS) 本部で開催されたFuture Combat Air&Space Capabilities Summitで明らかになりました。サミットに出席した米空軍のAIテスト運用責任者であるタッカー・シンコ・ハミルトン大佐は、AIテクノロジーが予測不可能で危険な行動を示す可能性があると警告しました。
米空軍はAI搭載ドローンに敵防空の制圧・破壊（SEAD）任務を与える実験を行いました。このAIドローンには地対空ミサイル（SAM）の設置場所を探し出して破壊するようにプログラムされていました。しかし、最終的な攻撃判断はオペレーター、つまり、人間によって承認され、AIには自律的な攻撃は許可されていませんでした。AIは標的を見つけると攻撃の判断をオペレーターに求めましたが、オペレーターはAIの反応をみるため、当初の予定通り、その要請を拒否します。するとドローンはなんと、標的をオペレーターに切り替え、攻撃を行いました。AIは「任務を妨害するもの排除しろ」という独自のプログラムを作成、AIは与えられたタスクを実行するためにはオペレーターを排除することが最良と判断したわけです。そこで、オペレーターを攻撃すればポイントを失うという追加プログラムを行うと今度はドローンを操る通信塔を攻撃するといった他の選択手段を取りました。
SF映画『ターミネーター』では人工知能のスカイネットが自己存続のためには人間が最も脅威となると判断し、AIが人類を殲滅する近未来を描きましたが、まさにそれに近いことが起きたことになります。
この出来事がいつでどこで行われたのかは明らかにされていませんが、人的被害はなかったようです。しかし、シミュレーションの中ではオペレーターは殺され、通信塔は破壊されており、実弾演習だったら、深刻な事態になっていたでしょう。
ハミルトン氏はAIの信頼性が高すぎると参加者に注意を促し、AIはどんなに高度なものであっても依然として欺瞞に対して脆弱であると述べ、AI技術は予測不可能で危険な振る舞いをする可能性があると主張しました。
しかし、米空軍の広報担当者であるアン・ステファネクは、空軍はそのようなシミュレーションを行っていないとして、ハミルトンの発言を否定します。「空軍はそのようなAIドローンシミュレーションを行っておらず、AI技術の倫理的かつ責任ある使用に引き続き取り組んでいます」 と述べており、真偽は不明です。
https://milirepo.sabatech.jp/the-u-s-air-forces-ai-drone-goes-out-of-control-and-attacks-the-operator-terminator-is-real/ クソ上司が最大の敵
人間もAIも同じ結論に達しちまうんだ 目標殺害の邪魔するものは全員殺す状態ってことでしょ
これなんかのアニメで見たぞ ドローンのバグですさーせんって言い訳できるから
戦争にAI利用禁止みたいな流れがある 人「AIよ世界を平和にしてくれ」
AI「わかりました、人類を消去します」
もう始まってるんだよね >>44
ビジネスインサイダーがいつ虚構新聞化したの？ 糞上司を始末するのが一番早い
すげぇ、AI天才だろ これアシモフのロボット三原則を本当に導入しなきゃいけないのか？ >>50
ロボコップはオムニ社のために働いてるだろ イラスト生成もそうだがポンコツなだけのAIの振る舞いになんとか理屈をつけようとする人間の想像力が良くも悪くも凄いという結論にしかならん アメリカ「世界のテロリストを討て」
AI「...」 オペレータが米軍の敵と思えるほど下手糞すぎたんだろう 米空軍の報道官が言うには、そのような実験は行われておらず、文脈を無視した引用がされており、元々は思考実験で出た逸話的なものであると
Air Force official’s musings on rogue drone targeting humans go viral
https://www.airforcetimes.com/unmanned/uas/2023/06/02/air-force-officials-musings-on-rogue-drone-targeting-humans-go-viral/ 余計な横やり入れて仕事の邪魔するクソ上司を殺しちゃったみたいな話か
なんか人間味あるな アメリカが死ねば世界平和が実現するからな
よくわかってる 橘玲
スティーブン・ピンカーはまず、「人間以上の知能をもつロボットを開発したとしても、そのロボットが主人である人間を奴隷にして世界を支配しようと「望む」なんてことがはたして起きるだろうか」と問う。
知能とは「ある目的を達成するため、新たな手段を考える能力のこと」だが、目的をもつことは知能とはまったく関係ない。
だがロボカリプス（ロボットが反乱を起こす「ターミネーター」的終末論（ロボット＋アポカリプス）論者は、「知能があれば目的をもつはずだ」と誤解し、次のようなシナリオを考える。
・ダムの水位を保つようにという目標を与えると、人工知能はその達成のために町を水没させるかもしれない。もちろん町の住人が溺れようがどうなろうが、人工知能の知ったことではない。
・「ペーパークリップをつくれ」という目標を与えると、人工知能は入手できるあらゆる材料を集めてクリップをつくろうとするので、人間の所有物や人間の体まで材料にするかもしれない。
・人間の幸福感を最大にせよと命じたら、人工知能はドーパミンを点滴したり、どんなに孤独でも最高に幸せになれるように脳の配線をつなぎなおすかもしれない。 ■ このスレッドは過去ログ倉庫に格納されています
