CAPTCHA認証でこの世に存在しない物体が指定されてしまうトラブルが発生
https://gigazine.net/news/20230529-captcha-ai-generated-object/
ボット検出システムである「CAPTCHA」では、GoogleのreCAPTCHAが有名ですが、Google以外にもさまざまな企業や組織がCAPTCHAを提供しています。そんな中の1つであるhCaptchaを導入しているサイトの利用者から「この世界に存在していない物体を選ぶように指示された」という報告が上がっています。
hCaptchaは2018年に公開されたCAPTCHAサービスで、reCAPTCHAに比べてプライバシー面を重視しているとのこと。2020年時点でCAPTCHA市場のシェアを15%獲得しているほか、DiscordやCloudflareなどのサービスで採用された実績を持っています。
2023年5月21日に、hCaptchaを利用した複数のユーザーから「Yoko」という謎の物体を選択するように指示されたという報告が上がりました。下記のツイートはその一例で、「Yokoが含まれる画像を全て選択してください」というメッセージとともにさまざまなAI生成画像が並んでいます。
例の画像を見る限りではヨーヨーのようなものに見えますが、本当のところはこの問題を生成したAIにしかわかりません。
指示された物体については問題ない場合でも、選択すべき対象が大きくゆがんでしまって「いったいどれを選択すればいいのかわからない」という状況になったというツイートも存在しています。
また、AIが生成した人間の画像のなかから「ロボット」を見つけるというテストを出されたという報告も投稿されています。
なお、hCaptchaの担当者はMotherboardの取材に対して「ほとんどのテストは問題なく機能しているものの、hCaptchaは数億人のユーザーに利用されており、その中で変なテストに驚いた人がツイートするのはよくあることだ」と認識を話しています。
https://i.imgur.com/RRU3KyO.jpg