[책 속 명문장] 기술은 어떻게 차별을 자동화했는가?
[책 속 명문장] 기술은 어떻게 차별을 자동화했는가?
  • 김승일 기자
  • 승인 2018.12.17 10:15
  • 댓글 0
이 기사를 공유합니다

[독서신문 김승일 기자] 많은 사람들이 자신이 표적이 되고 있다는 사실을 모르거나, 표적이 될 때 대항할 만한 힘이나 전문 지식을 가지고 있지 않다. 아마도 가장 중요한 것은, 제이슨과 내가 겪었던 유(類)의 디지털 감시가 많은 사람들에게 일회성 일탈이 아니라 매일 일어나는 일일지 모른다는 점이다. 
조지 오웰은 유명한 소설 『1984』에서 한 가지 잘못 생각했다. 빅 브러더는 누구 한 사람이 아니라 우리 모두를 감시하고 잇다. 대부분의 사람들이 개인으로서가 아니라 사회 집단의 일원으로서 디지털 감시의 표적이 되고 있다. 유색인, 이민자, 비인기 종교 집단, 성적 소수자, 가난한 사람들, 그 밖의 억압받고 착취당하는 사람들은 혜택받는 집단보다 감시와 추적의 부담을 훨씬 크게 지고 있다. <23쪽>

자동화된 의사 결정은 사회 안전망을 파괴하고, 가난한 사람들을 범죄자 취급하며, 차별을 심화하고, 미국의 가장 뿌리 깊은 국민적 가치를 위태롭게 한다. 그것은 체제 공학의 문제다. 우리가 누구이고, 누가 되고 싶은지에 대해 사회가 공유하는 결정을 재구성하는 것이다. 또한 정치적 책임과 투명성을 거의 기대할 수 없는 이른바 “인권 수준이 낮은 환경”에서 가장 광범위한 디지털 의사 결정 도구가 시험되고 있는데, 우선 가난한 사람들을 목적으로 만들어진 시스템은 결국 모든 사람들에게 이용될 것이다. 
미국의 가난한 노동자 계층은 오래전부터 사생활 침해적인 감시, 야밤의 불시 단속, 그리고 처벌적인 공공 정책의 대상이 돼 왔는데, 이것은 빈곤의 오명과 고통을 증대시켰다. 19세기 이들은 지방자치단체의 구빈원에 격리됐다. 20세기에는 개별사회복지사의 조사를 받으며 재판받는 죄인처럼 다뤄졌다. 오늘날 우리는 데이터베이스, 알고리즘, 위험 모형으로, 내가 디지털 구빈원이라고 부르는 것을 구축하고 있다. 이 디지털 구빈원은 미치는 범위와 영향력에서 예전의 모든 것을 능가할 성싶다. <31~32쪽>

『자동화된 불평등』
버지니아 유뱅크스 지음|김영선 옮김|북트리거 펴냄|400쪽|16,800원


댓글삭제
삭제한 댓글은 다시 복구할 수 없습니다.
그래도 삭제하시겠습니까?
댓글 0
댓글쓰기
비회원 글쓰기 계정인증을 통해
댓글을 남기실 수 있습니다.

  • 서울특별시 서초구 논현로31길 14 (서울미디어빌딩)
  • 대표전화 : 02-581-4396
  • 팩스 : 02-522-6725
  • 청소년보호책임자 : 권동혁
  • 법인명 : (주)에이원뉴스
  • 제호 : 독서신문
  • 등록번호 : 서울 아 00379
  • 등록일 : 2007-05-28
  • 발행일 : 1970-11-08
  • 발행인 : 방재홍
  • 편집인 : 방두철
  • ⌜열린보도원칙⌟ 당 매체는 독자와 취재원 등 뉴스 이용자의 권리 보장을 위해 반론이나 정정보도, 추후보도를 요청할 수 있는 창구를 열어두고 있음을 알려드립니다.
  • 고충처리인 권동혁 070-4699-7165 kdh@readersnews.com
  • 독서신문 모든 콘텐츠(영상,기사, 사진)는 저작권법의 보호를 받은바, 무단 전재와 복사, 배포 등을 금합니다.
  • Copyright © 2024 독서신문. All rights reserved. mail to webmaster@readersnews.com
ND소프트