【悲報】 患者「チンコにブツブツ出たから診て」 リモート医者「写真送って」 → GoogleAIによって垢バン、通報され警察 [285428669]
■ このスレッドは過去ログ倉庫に格納されています
Googleの人工知能が幼児の性器写真を誤解し警察に通報するという事件が起きた。
アメリカのサンフランシスコに住むエンジニアのハーピル・マーク氏は息子の性器に発疹が出たため、
リモート受診のために医師に送付した。
新型コロナウイルスのために病院は閉鎖しており、リモートで診断を行っており、息子の局部の写真を送ってほしいと言われたという。
親は息子の局部の写真を撮影しメッセージアプリで送付し、そのあと抗生剤も無事に処方された。
しかしその2日後、Googleアカウントがロックされたという通知が届いてGoogleアカウント全てが使えなくなってしまったのだ。
これはGoogleの人工知能によるものだった。
マーク氏が撮影した写真はGoogleフォトに自動的にバックアップされ、それをGoogleは児童ポルノだと判定してしまったのだ。
マーク氏は異議申し立てを行ったがGoogleは「グーグルのポリシーに違反しており違法な可能性のある有害コンテンツ」として
異議申立は却下された。
それだけでなく、人工知能は警察にも通報し、マーク氏は警察から事情聴取も受けたという。警察が持っていた通知書は
グーグルと彼が利用するインターネットサービス会社に提供された捜索令状のコピーも一緒だった。しかし事件担当者は
犯罪ではないと判断し、捜査を終結したと伝えた。
捜査が終わると今度はマーク氏が警察にGoogleアカウントを取り戻すのを手伝って欲しいと悲願。警察に文書を送付しGoogleを訴えたが、
Googleは異議申し立てを再び却下した。
https://gogotsu.com/archives/68334 googleはこうやって世界中のエロ画像集めてんのか 
＞人工知能は警察にも通報し
すごすぎだろ。。。 googleがこのポルノを集めることが違法ではないんですか？ 通報はおかしいけど
垢BAN自体は規約で決まってるなら仕方ないのかな
まあアカウントは戻らないけど医者でも訴えといたら グーグルはユーザーの全てをチェックしてるもんな
アンドロイドw >>13
不可能
自民党を追い出すのと同じくらい不可能 AIなんだからちょい複雑な判定も出来そうだと思うんだけどなぁ
画像内にフォーマットに則った注釈いれときゃセーフとか送付先医療関係者で登録されてるとかで誤認防げそうなのに アメリカのサービスはこれが怖いんだよな
自動で誤BANしてなにがあっても撤回しない ＞マーク氏が撮影した写真はGoogleフォトに自動的にバックアップされ
意図しないものまで勝手に収集するからな
デフォルトは収集OFFにしてくれ >>8
自動的にメール送ったりするだけだろ
別に「モシモシケイサツデスカ？ジドウポルノヲハッケンシマシタ」とか電話するわけじゃない Gmailで同じようなことしてアメリカの刑務所入ったケンモメンいなかったっけ なんでgoogleって異議申し立てを無視するんだろうな
どんな企業だよ ジャップ企業がやるジップにパスつけて別のメールでパス送るやつがまさかの有効か もしかして垢を戻す機能が作れないのでは？🤔
もしくは垢を戻す機能を作った社員が既に退社してロストテクノロジー化して待ったのでは？🤔 >>24
1回でも撤回したという前例を作るとクソ庶民が大量に問い合わせしてくるから
無条件全却下という状態を維持したい
そもそも手間を惜しみたいから自動BANにしてるわけだし 殺人リンチ強盗オッケー！児童ポルノだけは許しません！
死ねよゴミ YouTuberの収益停止もそうだけど
Googleに生殺与奪の権を与えるなよ
日本政府より信用できねえのに >>8
だからクラウドでエロ動画は御法度だからな
100%垢バンに通報コンボは以前から事件としてあり言われてるけど信じない人がたまにいる 「違法な可能性のある有害コンテンツ」
もう有害じゃないと確定したんだから解除すればいいだけだろ メールと写真全部収集されてるし世界中の個人情報握りすぎだろ まぁ今から裁判やろねー。どんなやろミラクル判定起こるからかな >>40
GoogleのaiなんかYou Tubeで誤バンされて解かれた2時間後に最速で垢バンするくらい超馬鹿だぞ
AIが凄いと思われてるがまだこんなレベル そりゃAIが画像判別を間違えたとかじゃなくて
正真正銘の児ポ画像をアップロードしておきながら
「間違ってUPしちゃいました」で通るわけないだろうよ >>40
問題はその医療用ブツブツ写真じゃなくて全裸の母親と息子が寝てる画像だったらしいよ >>16
判らんよ、初めてパソコンテレビX1Dを買って貰ってウキウキの中学生の
俺の所にタイムスリップして
「日本の家電メーカーは今から３０年後には壊滅してるぞ
中国と韓国メーカーが世界を席巻してシャープは台湾企業の傘下だ
後、ベーマガの片隅に地味に広告出してるクソ高いパソコンのアップルとか言う会社が
掌サイズのパソコン発売して覇権取ってる」
と言っても絶対に信じないだろうからな、３０年後なんて何も判らん >>46
AIの誤認識はまあ大量に捌かなきゃならないから必要悪かもしれないけど
個別の申し立てですら無視するのはネットインフラ握る側として悪質すぎだろ やってる事ほぼ金盾だからな
プラットフォーム握られるってそれだけでリスクなんだよな Googleって研究力は凄いって言われてるけど技術力や運用力はイマイチだよな GCPのストレージは監視されてないよな？
前2TBぐらいポルノぶちこんでたけど平気だった じゃぁどうすれば良かったん？
に対して回答が無いのはキツいな >>1
＞Googleフォトに自動的にバックアップされ
そりゃBANされますわ
うんなもの切っておけよ >>1
写真の送付じゃくてバックアップが原因じゃねえか
紛らわしいスレタイにするなハゲ そら異議申し立ての却下もaiがやってるからな
こんなサービス使うなよ ガキの命や健康なんかより自分とこのイカれた倫理観の方がジャスティスってことなんだろ
所詮こいつらもカスみたいな広告屋よ Googleお役所仕事始めてて草。
まぁ国家並みの権力持ってるしそうなるのか 108 名前：番組の途中ですがアフィサイトへの転載は禁止です (ﾜｯﾁｮｲW 6b6e-HNW7)[] 投稿日：2016/08/24(水) 00:14:38.05 ID:/MRtL7Id0 [1/38]
俺が州刑務所に入ってた時の購買リスト
インスタントラーメンは3種類でチリ味が一番人気だった
http://i.imgur.com/vG9oMWt.jpg
148 名前：番組の途中ですがアフィサイトへの転載は禁止です (ﾜｯﾁｮｲW 6b6e-HNW7)[] 投稿日：2016/08/24(水) 00:46:21.63 ID:/MRtL7Id0 [10/38]
なんJだったか嫌儲だったかで拾ったアウロリをGmailでスマホから自分宛に送ったら検閲されてアカウント無効化→3ヶ月後に市警察が捜査令状持って家に来た
そしてアウロリが入ってたHDDを押収されてカリフォルニア州法311.11(c) 600枚以上の児ポ所持の容疑で逮捕された
155 名前：番組の途中ですがアフィサイトへの転載は禁止です (ﾜｯﾁｮｲW 6b6e-HNW7)[] 投稿日：2016/08/24(水) 00:48:43.87 ID:/MRtL7Id0 [11/38]
JKばっかだったけどJCとかJSもあった
裁判で検察のインド系のおっさんにこいつは悪魔だから外に出してはいけないって指差されて言われたｗ
結果保釈金は5000万円近くになったｗ よく映画で描かれる全体主義のディストピアそのものじゃん 容量も無限じゃなくなったしフォトは切っといた方が良さそうだな そもそもGoogleのAI自体がしょぼそう
技術系の企業じゃなくて広告企業だかんな アメリカのサービスって絶対自分の非を認めないからな チンブツは別にそこまで問題ない場合もあるんだよな
そりゃ出たらめちゃくちゃ悩むとは思うがｗ 医療界で結託してgoogle社員への治療をボイコットするって宣言すればいいよ >>83
なにかあったかもしれないけど、少なくとも日本でもデマまみれで騒ぎ立てた勢力はもう明らかだとは思う 前のスマホgoogleフォトに自動同期してたけど気になって今見たら元カノとのハ○撮り全部見つからなかったわ
消されてんのかこれ お前らのチンコも小さいから子供と間違えられると大変だな ドライブとフォトのファイル整理したわ
そのうち通報されそうだし MSの時と違ってグーグル一強を米の公取みたいなのはなんで許してるん？ 【悲報】 患者「チンコにブツブツ出たから診て」 リモート医者「写真送って」 → GoogleAIによって垢バン、通報され警察 [285428669]
https://greta.5ch.net/test/read.cgi/poverty/1661339154/ アメリカはコロナ余裕だから病院普通にやってるのかと思ったけど違うのか
>>27
スマホで写真撮った瞬間にアップロードされるやろ 理不尽BANがあるからうっかり写真を同期もできない
メールも中身まで見てるんでしょ？ 病気とか怪我の部位次第ではBANされるとかまともに診断できないよな 最近ネットで児ポ探してるボランティアのミーム画像見なくなったな でもこのおかげで児童ポルノが減った恩恵の方がはるかに大きそうだが 融通の効かなさがジャップみたいで草
権威主義の奴が目指す企業になった結果がこれ
栄枯盛衰
Googleがオワコンになる日も来るんだろうなと思わせるニュース ■ このスレッドは過去ログ倉庫に格納されています
