Suicide hotline shares data with for-profit spinoff, raising ethical questions
https://www.politico.com/news/2022/01/28/suicide-hotline-silicon-valley-privacy-debates-00002617
以下 DeepL翻訳
Crisis Text Line社のAIによるチャット・サービスは、人生で最も困難な状況にある人々との会話から膨大なデータを集めています。
Crisis Text Line社は、世界で最も著名なメンタルヘルス支援ラインの一つで、ビッグデータと人工知能を駆使し、自傷行為や精神的虐待、自殺願望などのトラウマに対処するための技術を提供する非営利団体です。
しかし、この慈善事業が、最も暗い瞬間にある人々とのオンラインテキスト会話から収集するデータは、それだけにとどまりません。この団体の営利目的のスピンオフ企業は、その情報をスライスして再パッケージ化したものを使って、カスタマーサービス・ソフトウェアを作成し、販売しているのです。
Crisis Text Line社は、Loris.aiという会社と共有するデータはすべて「匿名化」され、困ってヘルプラインに連絡した人を特定できるような詳細は取り除かれた、と述べています。両社とも、世界をより良くすることを目標としており、Lorisの場合は「カスタマーサポートをより人間らしく、共感しやすく、スケーラブルにする」ことを目的としているという。
一方、Lorisは収益の一部をCrisis Text Line社と共有することを約束している。また、ロリスは同社の株式を保有しており、少なくとも1年半は同じCEOを共有していた。両社は、この関係を「営利企業が慈善活動の成功を支援するためのモデル」と呼んでいる。
シリコンバレーの大企業から資金援助を受けているCrisis Text Lineにとって、同社が「世界最大のメンタルヘルス・データセット」と呼ぶものの管理は、ワシントンを揺るがすハイテク・プライバシー論争の新たな局面を浮き彫りにしている。FacebookやGoogleのような大企業は、大量の個人データを基に巨万の富を築いてきました。しかし、それと同等かそれ以上の繊細な情報が、営利企業に対する連邦政府の規制から外れた非営利団体の手に渡り、そのデータの行き着く先を外部からほとんど制御できないでいるのです。
POLITICOが接触した倫理やプライバシーの専門家は、この取り決めにはいくつかの潜在的な問題があると見ている。
匿名化された他のタイプのデータセットの研究では、健康記録や遺伝子データ、さらにはニューヨーク市のタクシーの乗客に関する過去の例を挙げて、その記録を特定の個人にさかのぼることが容易である場合があることを指摘した人もいる。
また、ヘルプラインには約50段落の情報開示があるにもかかわらず、助けを求めるメールを送った人は自分のデータが共有されることに本当に同意しているのか、という疑問の声も聞かれました。
スタンフォード大学人間中心人工知能研究所のプライバシー・データ政策フェロー、ジェニファー・キング氏は、「法的な同意は得られているかもしれないが、実際に意味のある、感情的で、十分に理解された同意を得ているだろうか」と問いかけた。
「これらの人々は、最悪の瞬間にいるのです。そのデータを他の人々を助けるために使うことは一つのことですが、それを商業化することは、非営利団体が越えるべき本当の倫理的な一線のように思えます"。
スタンフォード大学プライバシー・データ政策フェロー、ジェニファー・キング氏
また、メタ社のFacebookメッセンジャーやWhatsAppのサービスでは、これらのプラットフォームを通じて行われた会話の内容にアクセスできることも、この開示条件には記されている。(この記事が掲載される前に、Meta社はそのデータにアクセスできることを確認したが、差し迫った危険がある場合を除き、そのデータを一切使用しないとしている）。記事公開後、WhatsAppは、同社とMetaがWhatsApp経由で発生するメッセージの内容にアクセスすることはないと明らかにした)。
元連邦規制当局のジェシカ・リッチは、第三者企業が匿名化されたデータにさえアクセスできるのは「問題だ」と考えていると述べたが、関係する企業についてはよく知らないと注意を促している。
連邦取引委員会消費者保護局の元局長であるリッチ氏は、「悩める消費者がこの非営利団体に手を差し伸べることは、期待に反しているだろう」と述べた。彼女は後に、"データが営利企業に転送されるという事実は、これをより厄介なものにし、FTCに管轄権を主張するための角度を与える可能性がある "と付け加えた。
詳細はサイトで
