一般相対性osugi3yのブログ

14年勤めた企業をやめました。映画「時の行路」尾道市実行委員

シン・すべてがNになる〜不定期連載〜

欧州の人工知能の盲点。レース

これから始まるAIに関するルールは、欧州の人種問題をも技術的な問題にするかもしれません。

f:id:osugi3y:20210321110436p:plain


Melissa Heikkilä
2021年3月16日 午前9時00分

 

 欧州の人工知能規制のビジョンは、良い意味での「色盲」です。

 米国の自由放任主義と中国の差別主義の間で、EUはAI規制の「第3の」を切り開こうとしています。それは、イノベーションを促進すると同時に、プライバシーや人権などの「欧州の価値」を尊重するものです。しかし、活動家や学者たちは、AIによる差別のリスクが最も高いコミュニティ、つまり人々のことを考慮していない規則になるのではないかと懸念しています。

 近年では、女性や黒人・褐色の顔を認識しない顔認識システム、不透明で強制力のない差別的な雇用アルゴリズム、あるいは不釣り合いな犯罪性を予測し、より悪い法的結果を提示するアプリケーションなど、AIシステムが人種的マイノリティを差別する例が注目されています。

 

 

 欧州委員会は今春、AIルールを発表し、「リスクの高い」AIシステムに信頼性に関する最低限の基準を満たすことを求めます。しかし、欧州各国ではすでに、代表権警察ネット上での不正使用に関して、人種差別への対応に苦慮していることから、デジタルライツ団体EDRiのサラ・チャンダーは、こうした問題がテクノロジーにも浸透する可能性が高いと述べています。

  "テクノロジーが人種的コミュニティに悪影響を及ぼす可能性があるという問題を、米国の問題として捉えるべきではありません。構造的な差別や人種的不平等が顕在化している場所であれば、どこでも問題になるでしょう」とチャンダーは語り、政策立案者の自己満足的な態度や、問題を認識しようとしない姿勢は、問題を悪化させるだけだと付け加えました。

         アルゴリズム上の弊害 

  厳格なデータ保護規則、強力な基本的権利の枠組み、人種的平等に関する指令があっても、ヨーロッパのマイノリティはアルゴリズムの害から安全ではありません。

 1月、オランダ政府は、アルゴリズムを使って児童手当を不正に請求しそうな人を予測していたというスキャンダルで辞任しました。税務当局は、不正の証拠がないにもかかわらず、二重国籍少数民族の親を特別視して、26,000人の親に不服申し立ての権利もなく、数万ユーロを税務当局に返済させました。オランダのデータ保護当局は、税務当局の手法を "差別的 "と判断しました。

  "戦略的な訴訟を通じてデジタルの権利を支援しているDigital Freedom FundのNani Jansen Reventlow氏は、「偏見や偏見の自動化、人種差別の自動化が社会の大きなグループに大きな影響を与えているという現実と、自動化できるものは何でも良いという盲目的なビジョンが完全に乖離しているように思えます」と述べています。

 

  ナキーマ・ステッフルバウアーは、技術系の女性を育成する組織「Frauenloop.org」の創設者で、技術系の有色人種のためのネットワーク「Techincolor.eu」を運営しています。ステッフルバウアー氏によると、彼女の娘は最近、アムステルダム大学を受験しましたが、黒人や褐色の顔を認識するのに問題のある試験監視ソフト「Proctorio」を使った入学試験を受けなければなりませんでした。

 

 

 

 もしヨーロッパが「アルゴリズム実装の結果を規制する上で、何らかの明確な目標ゴールを持っていなければ、北米で起きているような、『おっと、誰もこのグループ全体の女性やトランスジェンダー、黒人、アジア人、あるいは白人男性ではない人々のことを考えていなかった』というような問題が起きてしまうでしょう」と、ステッフルバウアーは、AIシステムの人種的偏見の結果として提起された米国での一連の法的申し立てについて言及しました。

 

 "ヨーロッパでは、少なくともそのような行き過ぎた最悪の事態を避けることができるはずだ。"

 これは、欧州委員会も認識している問題です。

 昨年、ヴィエラ・ジュロヴァ副大統領は、人種的偏見を含め、「現実世界の不完全さや不公平さをAIの世界にコピーペーストする」ことに特に警告を発しました。EUAI計画を描く際に、人種的偏見を持つAIシステムが及ぼしうる害を警告し、いかなるAI法も "潜在的な害をもたらす様々なリスクをいかにして最小化するかに集中すべき "と付け加えています。

 

   しかし、欧州委員会が実際に次期規則にどのような条項を盛り込むかは不明です。欧州委員会の広報担当者は、次期提案についてコメントしていませんが、EUには「基本的な権利を保護し、安全性と消費者の権利を確保するために、EUおよび国家レベルで強固な法律の枠組みがある」と述べています。これらの規則への違反を防ぎ、起こりうる違反に各国当局が対処できるようにするために、リスクの高いAIシステムは十分に文書化され、適切な程度の透明性を提供する必要があります。"

 

  EDRiに代表される市民社会団体の連合体は、今度のAI法にレッドラインを設けるようキャンペーンを行い、ライブの顔認識などの技術を禁止することで、有色人種を差別することになると警告しています。

 

 

 

 EDRiのChanderは、人間による監視や技術的な修正(アルゴリズムを訓練するための広範なデータセットなど)だけでは、偏見や差別的な影響をなくすことはできないため、このような制限が必要だと主張しています。

 "使用されるデータセットに十分な表現が含まれていないことが問題なのではなく、そのようなシステムが社会における既存の差別的な影響をどのように永続させるかが問題なのです」とチャンダーは述べています。

 インクルーシブな政策立案

 人種に関する会話は、ブリュッセルではなく国レベルで行われることが多く、「体系的な人種差別に対処するための多くの努力が、技術に関する会話と必ずしも結びついていない」とJansen Reventlowは述べています。

 欧州非営利法センターのプログラムディレクターであるVanja Skoric氏は、このような状況は、AI政策を形成する技術的な議論からこれらのグループが排除されることにつながると指摘します。"多くの場合、彼ら自身が参加するには十分ではない、あるいは『十分な専門家』であると感じていないため、議論において重要な声が不足してしまうのです」と彼女は述べています。

 政策立案者や産業界が、多様な意見を積極的に取り入れることができなければ、場合によっては無視されたり、締め出されたりして、結果的に法律が貧弱になってしまいます。AIに関する独自のフレームワークを作成している47カ国の人権団体である欧州評議会は、疎外された弱い立場のグループや少数民族の代表を確保するための具体的な要件を設けていない、とスコリックは言います。

 欧州評議会の広報担当者は、2021年末に完成予定のAIに関する法的枠組みの中で、無差別が取り上げられるテーマのひとつになると述べています。差別撤廃・多様性・インクルージョンに関する運営委員会は、「AIと無差別に関する作業が今後の優先事項のひとつになることに合意した」とし、同委員会は「AI、無差別、平等に関する分野別文書」の準備に携わる予定だという。

 

 

 

 ブリュッセルでは、民族的な多様性の観点から、代表者がいないという状況が続いています。欧州議会の705人の議員のうち、有色人種はわずか一握りです。27人のEU委員の全員が白人です。

 欧州がまず取り組むべきことは、AI規制における権力構造だと、AIシステムにおけるジェンダー、人種、権力を研究しているワシントン大学のOs キーズは言います。EUが政策における人種的偏見に真剣に取り組むのであれば、内部の権力構造も検証すべきだとキーズは続ける。

 Keyesは、多様性の欠如が差別的な活動や政策の一因になっていると指摘します。例えば、EUの研究基金は、肌の色や顔の特徴から人種を識別する技術である「人種分類」に関する論文に費用を負担しています。この技術は、差別を助長するのではないかと危惧するコンピュータ科学者から厳しい批判を受けており、人種的アイデンティティ社会的背景が考慮されていません。また、この基金は、顔認識技術を使って嘘をついているかどうかを見分ける国境警備システムを作ろうとした、現在は失敗に終わった「iBorderCtrl」プロジェクトにも資金を提供しています。

 欧州の国境・沿岸警備機関であるFrontexは、欧州にたどり着こうとする移民・難民を発見するために、地中海やエーゲ海で軍用の監視用ドローンのテストも行っています。

www.nytimes.com "何を規制すべきかという決定が、非常に狭い範囲の利害関係者によってなされることがあまりにも多い」とキーズは言う。

f:id:osugi3y:20210321150009p:plain

 どうやら日本のデジタル法案もヤバそうだが世界のデジタル法案もヤバそうですね。

日本のデジタル法案も個人情報の保護が疎かになっている法案なので注意が必要です。

Twitterでシェアしてくれていたので翻訳しました。

 

 

f:id:osugi3y:20210321151948p:plain

POLITICOの分析をもっと知りたい?POLITICO Proは、プロフェッショナル向けのプレミアム・インテリジェンス・サービスです。金融サービス、貿易、テクノロジー、サイバーセキュリティなど、Proは一歩先を行くために必要なリアルタイムの情報、深い洞察力、スクープを提供します。無料トライアルのお申し込みは pro@politico.eu まで。

 

より多くの... Melissa Heikkilä