にほんブログ村
アルゴリズムはミスをしないとか、
偏見はない、とか思うのは
大きな間違い。
かつて人が行っていた判断を
コンピューターに任せた結果、
米アイダホ州では2012年、
体の不自由な人々4千人の
医療保険がカットされた。
入力データの誤りに
幻惑されたのが原因。
それから6年たった今も、
当局は後始末に追われている。
データに基づくパターン分析で、
結論を導き出すアルゴリズム。
今や採用活動、商品の推薦、
ヘルスケア、法曹関係、
クレジットスコアの計算などで活躍。
だがデータが元々
偏っている場合も。
アマゾンで
採用活動に利用したら、
テック産業には
体格のいい男性が多い事から、
女性の応募者は皆
除外された。
またアルゴリズムは、
アマゾンのプライムサービスの
対象地域選定時、
黒人の多い地域で
富裕層の白人が住む地域と
同じサービスをする必要はない
と決めつけた。
こうした事が続いた結果、
性別や人種、住所は
データに含めないシステムも登場。
公平性確保には
単純な方法が一番で、
AIは必要ないとの声も。
How do we stop algorithms from being racist, sexist or class-prejudiced? The first step is admitting that they're in fact biased.
