qualiadiversity’s diary

ダイバーシティ&インクルージョンな日々を楽しむヒントや情報を発信しています。

ネットの差別をなくすための二つの原則

f:id:qualiadiversity:20170522100951j:plain

ここ2年ほど、HBRではアンコンシャスバイアス(無意識の偏見)に関連する記事をよく見かける。
ビジネスにおける不公平・不平等、差別や格差の奥底に、無意識の偏見や差別の構造が潜んでいることに改めてアンテナを立て、排除する仕組みを作ることが求められています。
 
「ネット市場の差別をどう解決するか」
ボストン大学教授 レイ・フィスマン ハーバードビジネススクール助教授 マイケル・ルカの記事より(ハーバードビジネスレビュー2017年6月号P16-P26)
 
 eコマースの台頭により、インターネットは差別を終わらせるどころか、差別の発生源になっていることが明らかになった。不利な立場の人々は、ネット上で自分の素性が明らかにされてしまうため、オフラインの世界で長年立ち向かってきたのと同じ困難に多数直面している。差別をしたい人は、一度も顔をあわせたことのない相手を差別の被害者にすることも可能だ。
 
短期宿泊用のマーケットプレイスAirbnbは、オンライン市場で差別が台頭している。黒人らしい名前は白人らしい名前に比べリクエストを承認されるケースが16%少なかった。
黒人らしい名前のリクエストを断ったホストの大半は過去に一度も黒人に貸していない。
(*Airbnbは、この調査結果や批判の高まりを受け、差別を減らす改善策を講じた)
 
アルゴリズムが生み出す差別は、人間なら避けたであろう形で起きている。
グーグル広告で人種がどのような役割を果たしているか調査したコンピュータサイエンス教授ラターニャ・スウィーニーの調査では、アフリカ系米国人によくある名前(例:デショーン)と白人によくある名前(例:ジョフリー)を検索し、その検索画面に表示された広告を記録した。その結果、黒人らいし名前を検索した方が、過去にあったかもしれない(自分の)逮捕歴を調べるよう勧める広告が多く表示された。 
これは、アルゴリズムが、ディショーンを検索する方がより逮捕に関わる広告をクリックする(したがってグーグルに収益をもたらす)可能性が高いと判断した結果である。
 
オンライン市場の設計に際して差別防止の指針となる原則は次の2つ。
1.差別の可能性に目をつぶってはならない
 ・利用者の人種と性別に関する定期的なリポートの作成
 ・自社プラットフォームにおける人種・性別グループごと
  の首尾をはかるための尺度の設置
2.実験的な思考様式を維持する
  差別の増減に影響を与えそうな選択肢を他の介入手段と
  あわせて試してみるには、無作為比較実験を実施すると
  よい。
<設計の判断基準>
・情報を出し過ぎていないか
プラットフォーム側にできる最も簡単で最も効果のある見直しは、人種や性別など慎重に取り扱う必要があるかもしれない個人情報を商談合意に至るまで表に出さないことだ。
 
・取引のプロセスをさらに自動化できないか
自動化の増強とごく普通の経済的インセンティブを巧みに導入すれば差別をなくすことができる
 
・差別禁止項目をなるべく利用者に意識させる
 
・差別問題を意識したアルゴリズムを使う
 
プラットフォームも大きな社会的状況に含まれる存在であり、単に差別を助長しない設計にするだけで肌の色や性別による差別がない世界が実現する訳ではない。・・・・・・
・・とはいえ「正しい行いがよい結果を生む」という理念が通用するケースも多数ある。
 
米国の交響楽団に多様性をもたらした事例が象徴的
・1960年代中頃の米国五大交響楽団(ボストン・フィラディルフィア、シカゴ、ニューヨーク、クリーブランド)にしめる女性楽団員の割合は10%未満だった。
・1970年代から80年代にかけて、スクリーンなどの遮蔽物の向こう側で演奏させた。この取り組みは女性音楽家の成功率を160%に増やした。