[지대폼장] 기술은 어떻게 차별을 자동화했는가?
[지대폼장] 기술은 어떻게 차별을 자동화했는가?
  • 김승일 기자
  • 승인 2018.12.17 10:15
  • 댓글 0
이 기사를 공유합니다

[독서신문 김승일 기자] 많은 사람들이 자신이 표적이 되고 있다는 사실을 모르거나, 표적이 될 때 대항할 만한 힘이나 전문 지식을 가지고 있지 않다. 아마도 가장 중요한 것은, 제이슨과 내가 겪었던 유(類)의 디지털 감시가 많은 사람들에게 일회성 일탈이 아니라 매일 일어나는 일일지 모른다는 점이다. 
조지 오웰은 유명한 소설 『1984』에서 한 가지 잘못 생각했다. 빅 브러더는 누구 한 사람이 아니라 우리 모두를 감시하고 잇다. 대부분의 사람들이 개인으로서가 아니라 사회 집단의 일원으로서 디지털 감시의 표적이 되고 있다. 유색인, 이민자, 비인기 종교 집단, 성적 소수자, 가난한 사람들, 그 밖의 억압받고 착취당하는 사람들은 혜택받는 집단보다 감시와 추적의 부담을 훨씬 크게 지고 있다. <23쪽>

자동화된 의사 결정은 사회 안전망을 파괴하고, 가난한 사람들을 범죄자 취급하며, 차별을 심화하고, 미국의 가장 뿌리 깊은 국민적 가치를 위태롭게 한다. 그것은 체제 공학의 문제다. 우리가 누구이고, 누가 되고 싶은지에 대해 사회가 공유하는 결정을 재구성하는 것이다. 또한 정치적 책임과 투명성을 거의 기대할 수 없는 이른바 “인권 수준이 낮은 환경”에서 가장 광범위한 디지털 의사 결정 도구가 시험되고 있는데, 우선 가난한 사람들을 목적으로 만들어진 시스템은 결국 모든 사람들에게 이용될 것이다. 
미국의 가난한 노동자 계층은 오래전부터 사생활 침해적인 감시, 야밤의 불시 단속, 그리고 처벌적인 공공 정책의 대상이 돼 왔는데, 이것은 빈곤의 오명과 고통을 증대시켰다. 19세기 이들은 지방자치단체의 구빈원에 격리됐다. 20세기에는 개별사회복지사의 조사를 받으며 재판받는 죄인처럼 다뤄졌다. 오늘날 우리는 데이터베이스, 알고리즘, 위험 모형으로, 내가 디지털 구빈원이라고 부르는 것을 구축하고 있다. 이 디지털 구빈원은 미치는 범위와 영향력에서 예전의 모든 것을 능가할 성싶다. <31~32쪽>

『자동화된 불평등』
버지니아 유뱅크스 지음|김영선 옮김|북트리거 펴냄|400쪽|16,800원

* 지대폼장은 지적 대화를 위한 폼나는 문장이라는 뜻으로 책 내용 중 재미있거나 유익한 문장을 골라 소개하고 있습니다.


댓글삭제
삭제한 댓글은 다시 복구할 수 없습니다.
그래도 삭제하시겠습니까?
댓글 0
댓글쓰기
계정을 선택하시면 로그인·계정인증을 통해
댓글을 남기실 수 있습니다.