音声アシスタントでバイアグラの店は見つけられるのに……
LG：本書のなかで取り上げているテクノロジー製品について、具体的にお話してもらえますか。（男性に）偏ったデータセットはどのように偏ったデザインを生み出しているのかについても。
わたしが日ごろから感じているのは、スマートフォンのサイズって大きすぎない？ ということです。製品レヴューで「評者の手にはどうもしっくりしなかった」と、書かざるを得ないことが多いんです。
ただ、メーカーは広告にプロのアスリートを起用することがあって、彼らがその大きな手で持つと、当然ですが、そのスマートフォンはわりと小さく見えるんですね。

CCP：スマートフォンの機種には、わたしも大変悩まされてきました。実は「iPhone 6」を使っていて、RSI（反復性疲労障害）を患ったことがあるんです。
それで「iPhone SE」に変えたのですが、ずっと機種変更できないでいます。ご存じの通り、この唯一の小型モデルは、後継機が出されなくなってしまったからです。
わたしの手に合うモデルはそれしかないのに。たまったものじゃありません。アップルの製品で言えば、音声アシスタントの「Siri」について、バイアグラを売っている店は見つけられるのに、
妊娠中絶ができる病院は見つけられないという話もありました。こうした例はほかにもいろいろあります。
要するに、女性の顧客もいるということがあまり考慮されていないんです。あと仮想現実（VR）のヘッドセット、あれも（女性には）ちょっと大きすぎですよね。

ただ、わたしがいちばん懸念しているのは、ハードウェアではなくアルゴリズムのほうなんです。ハードウェアの場合は、わたしたちにどんな影響を与えているのかや、
どのあたりがうまく適合していないのかがまだわかりやすいので、比較的修正しやすいと言えるでしょう。それよりも心配なのは、アルゴリズムが極めて男性に偏ったデータセットで訓練されていて、
そうしたアルゴリズムがわたしたちの生活のあらゆる分野に入り込んできている点です。そのコードを書いている人たちの間では、訓練に用いているデータにこうした問題があることは、あまり理解されていないようです。
問題は、女性の声を認識しない音声認識システムから、オンライン辞書、人間が審査する前に履歴書をふるいにかけるアルゴリズムにまで拡がっています。