가장 위험한 AI 범죄 ‘딥페이크’… 방지책은?
가장 위험한 AI 범죄 ‘딥페이크’… 방지책은?
  • 송석주 기자
  • 승인 2020.12.15 12:35
  • 댓글 0
이 기사를 공유합니다

[독서신문 송석주 기자] ‘딥페이크’(deepfake)란 AI(인공지능)를 활용해 특정 인물의 신체 부위를 정교하게 합성하는 기술을 말한다. 딥페이크는 ‘AI 심층 학습’을 뜻하는 ‘딥 러닝’(deep learning)과 가짜를 뜻하는 ‘페이크’(fake)의 합성어다. 최근 딥페이크 기술이 점차 발전하면서 주로 유명 연예인과 정치인의 특정 신체 부위를 합성해 디지털 성범죄, 사칭을 통한 정치적 선동 등에 악용되고 있다.

실제로 지난 6월 방송통신심의위원회 디지털성범죄심의소위원회는 딥페이크 기술을 이용한 허위 영상정보 52건에 대해 ‘시정요구(접속차단)’를 의결한 바 있다. 방심위는 “디지털 성범죄 피해자 보호를 위해 접속차단의 시정요구와 함께 국제공조점검단을 통해 원 정보 삭제를 추진하겠다”며 “허위영상물 제작 및 유포 행위 근절을 위해 경찰청 등 관계기관과의 공동대응도 강화할 계획”이라고 밝혔다.

네덜란드의 사이버 보안 연구 회사인 ‘딥 트레이스’가 발표한 보고서에 따르면, 2019년 유통되고 있는 딥페이크 영상은 총 1만4,698건으로 전년 대비 84%나 증가했다. 이 가운데 96%는 포르노와 같은 음란성 영상물 형태로 소비되고 있는데, 이로 인한 피해자는 미국과 영국 등 할리우드 여배우가 46%를 차지했고, 케이팝 걸그룹 중에도 피해자가 있는 것으로 나타났다. 주로 여성 연예인들이 딥페이크의 타깃이 되고 있는 셈이다.

현재 딥페이크는 인류에게 가장 큰 피해를 줄 수 있는 AI 범죄로 인식되고 있다. 딥페이크는 인간의 편의를 위해 도입된 각종 AI 및 디지털 기술이 오히려 인간에게 해악을 끼친다는 ‘디지털 역기능’ 이슈와도 맞물려 있다. 이에 따라 고속으로 발전하는 AI 기술에 도덕적‧윤리적 제어 장치가 필요하다는 의견이 증가하고 있다. 책 『인공지능 시대가 두려운 사람들에게』의 저자 리처드 왓슨은 AI 기술이 “만능 슈퍼 히어로가 아닌 깜빡거리는 화면 뒤에 숨은 악당”으로 변할 수 있다고 경고한다.

저자에 따르면, 인간이 AI 기술과 공존하고 상생하는 시대를 만들기 위해서 ‘디지털 기술의 목적은 무엇이며 우리는 디지털 기술이 인간을 위해 무엇을 해주길 바라는가?’라는 물음에 진지한 답을 구해야 한다고 말한다. 그는 “무엇이 허용되고 무엇이 허용되지 않는지 폭넓은 논의를 시작해야 한다. (중략) 편의, 가성비, 좁게 정의한 가치를 낚아채기 위해 달려가는 과정에서 인간의 고결성과 자존감이 짓밟히는 일이 없도록 안전장치를 마련해야 한다”고 경고한다.

이를 위해 저자는 우리 사회가 맹목적인 효율 우선주의에서 벗어나 ‘나’에서 ‘우리’로 정체성을 확장해야 한다고 말한다. 즉 AI 기술을 인간의 노동력을 줄이고 대체하는 기술 혹은 인간에게 위해를 가하는 나쁜 기술이 아닌 인간과 함께 시너지 효과를 발휘할 수 있는 소중한 자산으로 잘 가꿔나가야 한다는 것이다. 이어 “초연결성이 야기하는 불평등, 소외, 사회적 배제 문제에 신속하게 대처하고 디지털화가 유발한 불균형을 어떻게 바로잡을지 고민해야 한다”고 설명한다.

책 『인공지능과 어떻게 공존할 것인가』의 저자 고선규는 지난해 EU(유럽연합)가 발표한 ‘AI 윤리 가이드라인’을 근거로 AI의 안전성, 프라이버시 보호, 투명성, 다양성, 비차별, 공평성, 지속가능성, 환경 책임 등을 강조한다. 특히 저자는 AI 기술이 시민에게 손해를 끼치거나 차별하는 수단으로 활용돼서는 안 되고, 보다 나은 인간사회를 만드는 데 기여해야 한다고 말한다.

이를 위해 그는 “인공지능과 로봇을 우리가 살아가고 있는 생태계를 구성하는 ‘자율적인 액터’로 인정하고 그들과 공존하기 위해 민주적인 신뢰 관계를 만들어나가면 좋겠다”고 덧붙인다.


댓글삭제
삭제한 댓글은 다시 복구할 수 없습니다.
그래도 삭제하시겠습니까?
댓글 0
댓글쓰기
비회원 글쓰기 계정인증을 통해
댓글을 남기실 수 있습니다.