Big Data’s Disparate Impact
No Thumbnail Available
Date
2016-06-01
Authors
Journal Title
Journal ISSN
Volume Title
Publisher
California Law Review
Abstract
머신러닝 기반 의사결정에서 나타나는 구조적 차별을 문제화한 고전적 논문이다. AI 윤리와 법제 분야에서 많이 인용되었다.
Description
데이터 마이닝과 같은 알고리즘 기법의 옹호자들은 이러한 기법이 의사결정 과정에서 인간의 편향을 제거해준다고 주장합니다. 그러나 알고리즘은 그것이 사용하는 데이터만큼만 신뢰할 수 있습니다. 데이터는 종종 불완전하며, 이로 인해 알고리즘이 과거 의사결정자의 편견을 그대로 물려받게 됩니다. 또 어떤 경우에는, 데이터가 사회 전반에 만연한 편향을 반영하기도 합니다. 다른 경우에는, 데이터 마이닝이 유용해 보이는 규칙성을 발견하지만, 그것이 실제로는 기존에 존재하던 배제와 불평등의 패턴일 수 있습니다. 데이터 마이닝에 대해 깊이 생각하지 않고 의존하게 되면, 역사적으로 불리한 위치에 있었던 집단이나 취약한 집단이 사회에 온전히 참여하는 것을 막을 수 있습니다. 더 나쁜 점은, 이러한 차별이 대부분 알고리즘을 만든 사람들의 의도적인 선택이 아니라 알고리즘 사용 과정에서 우연히 나타나는 결과라는 점에서, 문제의 근원을 파악하거나 법정에서 이를 설명하기가 특히 어렵다는 것입니다.
Keywords
Algorithmic Bias, Discrimination, Fairness, Legal Liability, Machine Learning
Citation
SSRN: https://papers.ssrn.com/sol3/papers.cfm?abstract_id=2477899