「段ボールに隠れる」などの予想外の行動をとることで軍用ロボットの目を欺くことができたと報告されている
アメリカ国防総省の国防高等研究計画局(DARPA)が開発した、人間を検出する訓練を受けた軍用ロボットのテストを行った結果、「段ボールに隠れる」などの行動を取ることでロボットの目を欺くことに成功したことが報告されています。
US Marines Defeat DARPA Robot by Hiding Under a Cardboard Box - ExtremeTech
https://www.extremetech.com/extreme/342413-us-marines-defeat-darpa-robot-by-hiding-under-a-cardboard-box
元陸軍隊員で作家のポール・シャーレ氏は、DARPAがアメリカ海兵隊員のグループと共同でロボットが人間を検出するためのアルゴリズムを調整した1週間について、自著『Four Battlegrounds: Power in the Age of Artificial Intelligence』で説明しています。
DARPAのエンジニアと海兵隊員のチームは、ロボットの周りを6日間歩き回ることで、動いている人間の姿を検出できるような訓練を行いました。そして7日目には、ロボットを円の中心に配置し、海兵隊員が離れたところからロボットに近づいて、検出されないようにロボットに触れる「だるまさんが転んだ」のようなゲームを行いました。
すると、ゲームを行った8人の海兵隊員全員がさまざまなテクニックを使用してロボットに触れることに成功しました。
8人中2人はロボットが配置された円の中心に向かって、人間を検出できるようにロボットが訓練されていない、アクロバティックな宙返りを行うことでロボットに触れたとのこと。
また、別の海兵隊員は、アクションゲーム「メタルギアソリッド」のように段ボールの中に隠れてロボットに向かって進むことでロボットに近づくことに成功しています。
さらに別の隊員は近くにあったモミの木から樹皮をはぎ取り、木のフリをして近づくことでロボットに到達することに成功しています。
シャーレ氏は「AIに対して偏った知識が与えられるとAIが偏ることと同じように、人間を検出するアルゴリズムは学習するデータが『歩く』などの基本的な動作であればあるほど想定外の動きに対応できない可能性があります」と語っています。また「宙返りをする人間や段ボールの中にいる人間が実際にどのように見えるのかをロボットに示さなければ、どんなに熟練したエンジニアが開発したロボットでも周囲のすべてのノイズからそれらの動作を検出することはできません」と述べています。
https://gigazine.net/news/20230126-darpa-robot-hide-cardboard-box/
