【悲報】 患者「チンコにブツブツ出たから診て」 リモート医者「写真送って」 → GoogleAIによって垢バン、通報され警察 [285428669]
■ このスレッドは過去ログ倉庫に格納されています
Googleの人工知能が幼児の性器写真を誤解し警察に通報するという事件が起きた。
アメリカのサンフランシスコに住むエンジニアのハーピル・マーク氏は息子の性器に発疹が出たため、
リモート受診のために医師に送付した。
新型コロナウイルスのために病院は閉鎖しており、リモートで診断を行っており、息子の局部の写真を送ってほしいと言われたという。
親は息子の局部の写真を撮影しメッセージアプリで送付し、そのあと抗生剤も無事に処方された。
しかしその2日後、Googleアカウントがロックされたという通知が届いてGoogleアカウント全てが使えなくなってしまったのだ。
これはGoogleの人工知能によるものだった。
マーク氏が撮影した写真はGoogleフォトに自動的にバックアップされ、それをGoogleは児童ポルノだと判定してしまったのだ。
マーク氏は異議申し立てを行ったがGoogleは「グーグルのポリシーに違反しており違法な可能性のある有害コンテンツ」として
異議申立は却下された。
それだけでなく、人工知能は警察にも通報し、マーク氏は警察から事情聴取も受けたという。警察が持っていた通知書は
グーグルと彼が利用するインターネットサービス会社に提供された捜索令状のコピーも一緒だった。しかし事件担当者は
犯罪ではないと判断し、捜査を終結したと伝えた。
捜査が終わると今度はマーク氏が警察にGoogleアカウントを取り戻すのを手伝って欲しいと悲願。警察に文書を送付しGoogleを訴えたが、
Googleは異議申し立てを再び却下した。
https://gogotsu.com/archives/68334 googleはこうやって世界中のエロ画像集めてんのか
>人工知能は警察にも通報し
すごすぎだろ。。。 googleがこのポルノを集めることが違法ではないんですか? 通報はおかしいけど
垢BAN自体は規約で決まってるなら仕方ないのかな
まあアカウントは戻らないけど医者でも訴えといたら グーグルはユーザーの全てをチェックしてるもんな
アンドロイドw >>13
不可能
自民党を追い出すのと同じくらい不可能 AIなんだからちょい複雑な判定も出来そうだと思うんだけどなぁ
画像内にフォーマットに則った注釈いれときゃセーフとか送付先医療関係者で登録されてるとかで誤認防げそうなのに アメリカのサービスはこれが怖いんだよな
自動で誤BANしてなにがあっても撤回しない >マーク氏が撮影した写真はGoogleフォトに自動的にバックアップされ
意図しないものまで勝手に収集するからな
デフォルトは収集OFFにしてくれ >>8
自動的にメール送ったりするだけだろ
別に「モシモシケイサツデスカ?ジドウポルノヲハッケンシマシタ」とか電話するわけじゃない Gmailで同じようなことしてアメリカの刑務所入ったケンモメンいなかったっけ なんでgoogleって異議申し立てを無視するんだろうな
どんな企業だよ ジャップ企業がやるジップにパスつけて別のメールでパス送るやつがまさかの有効か もしかして垢を戻す機能が作れないのでは?🤔
もしくは垢を戻す機能を作った社員が既に退社してロストテクノロジー化して待ったのでは?🤔 >>24
1回でも撤回したという前例を作るとクソ庶民が大量に問い合わせしてくるから
無条件全却下という状態を維持したい
そもそも手間を惜しみたいから自動BANにしてるわけだし 殺人リンチ強盗オッケー!児童ポルノだけは許しません!
死ねよゴミ YouTuberの収益停止もそうだけど
Googleに生殺与奪の権を与えるなよ
日本政府より信用できねえのに >>8
だからクラウドでエロ動画は御法度だからな
100%垢バンに通報コンボは以前から事件としてあり言われてるけど信じない人がたまにいる 「違法な可能性のある有害コンテンツ」
もう有害じゃないと確定したんだから解除すればいいだけだろ メールと写真全部収集されてるし世界中の個人情報握りすぎだろ まぁ今から裁判やろねー。どんなやろミラクル判定起こるからかな >>40
GoogleのaiなんかYou Tubeで誤バンされて解かれた2時間後に最速で垢バンするくらい超馬鹿だぞ
AIが凄いと思われてるがまだこんなレベル そりゃAIが画像判別を間違えたとかじゃなくて
正真正銘の児ポ画像をアップロードしておきながら
「間違ってUPしちゃいました」で通るわけないだろうよ >>40
問題はその医療用ブツブツ写真じゃなくて全裸の母親と息子が寝てる画像だったらしいよ >>16
判らんよ、初めてパソコンテレビX1Dを買って貰ってウキウキの中学生の
俺の所にタイムスリップして
「日本の家電メーカーは今から30年後には壊滅してるぞ
中国と韓国メーカーが世界を席巻してシャープは台湾企業の傘下だ
後、ベーマガの片隅に地味に広告出してるクソ高いパソコンのアップルとか言う会社が
掌サイズのパソコン発売して覇権取ってる」
と言っても絶対に信じないだろうからな、30年後なんて何も判らん ■ このスレッドは過去ログ倉庫に格納されています