"자리에 앉아. 조용히 해! 너희들은 불법 체류자다."
숨 막히는 공포 속 바닥에 죄인처럼 모여 앉은 월마트의 유색인종 직원들. 서슬 퍼런 눈의 이민세관단속국(ICE) 요원들이 소리를 지르자 어쩔 줄 몰라 한다. 그때 주변에서 "다 풀어줘라" "일하게 하라고" 소리치며 분위기는 점점 험악해진다.
최근 두 달 새 미국 소셜미디어에서 빠르게 퍼지며 논란을 일으킨 영상 속 모습이다. 그런데 이 영상이 인공지능(AI)으로 만든 '가짜'로 확인되며 논란은 더욱 커졌다. AI 기술의 급속한 발전이 허위정보를 빠르게 확산하고, 민주주의를 훼손할 수 있다는 우려다.
바다이야기꽁머니


최근 미국 소셜미디어에서 확산하고 있는 월마트 직원들 체포 영상. 인공지능(AI) 생성 영상으로 확인됐다. 사진 페이스북


실제 AI로 생성된 바이럴 영상은 인종차별을 조장할 뿐 아니라 정치적 담론에도 큰 영향을 미치고 있다 사이다쿨바다이야기게임 . 최근에도 한 흑인 여성이 스스로 "나는 SNAP(미국 저소득층 식품 지원) 혜택을 악용하고 있다"고 말하는 가짜 영상이 퍼지며 복지 제도 전반에 대한 비판 여론이 형성된 바 있다. 미 정치매체 악시오스에 따르면 “정치적 도구”가 된 셈이다.
지난해 10월에는 미국 민주당원들이 콧수염을 달고 솜브레로(멕시코 전통 모자)를 쓴 멕시코인의 릴게임예시 모습으로 등장한 영상이 도널드 트럼프 대통령과 공화당 인사들 사이에서 공유되며 화제가 됐다. 공화당 지지 세력이 '민주당이 불법 이민자 의료비 지원을 하려 한다'고 주장하며 이들을 비난하기 위해 AI로 만든 영상이었다.



지난해 12월 7일(현지시간) 스웨덴 스톡홀름 왕 릴게임사이트 립과학한림원에서 열린 2024 노벨경제학상·화학상·물리학상 수상자 공동 기자회견에서 노벨 물리학상 수상자인 제프리 힌턴 캐나다 토론토대 명예교수가 취재진 질문에 답하고 있다. 연합뉴스


AI의 '정치적 도구화'에 대한 우려는 깊어지고 있다. 지난해 노벨물리학상을 받은 ‘AI의 대부’ 제프리 힌턴 전 골드몽 구글 부사장은 지난달 28일(현지시간) CNN에 출연해 “2년 전보다 지금이 더 걱정된다”며 “AI는 내가 예상했던 것보다 훨씬 빠르게 발전했다”고 말했다. 그러면서 “특히 추론 능력과 사람을 속이는 능력이 눈에 띄게 향상됐다”고 강조했다.



지난 10월 테드 크루즈 공화당 소속 상원의원이 엑스(X)에 올린 영상. 정부 셧다운에 찬성표를 던진 민주당 상원의원 44명이 멕시코 전통 의상을 입은 모습이 담겼다. 사진 엑스


이런 가짜 영상의 확산은 ‘디지털 블랙페이스(digital blackface)’로도 불린다. 온라인에서 흑인이나 유색인종 가상 캐릭터를 만들어 악의적인 허위정보를 퍼뜨리며 이익을 얻는 행위를 뜻한다. 리애나 월컷 흑인 커뮤니케이션·기술 연구소(BCaT Lab) 부소장은 “정확하거나 흥미로울 필요 없이 조회 수만 나오면 되기 때문에, 여러 분노가 AI로 증폭되고 있다”고 지적했다.
미 정치전문매체 악시오스는 인권단체 관계자를 인용해 “사람들이 가짜라는 사실을 인식하더라도, 이미지는 무의식에 남는다”며 “이런 고정관념이 중간선거와 2028년 대선에까지 영향을 미칠 수 있다”고 경고했다.
한지혜 기자 han.jeehye@joongang.co.kr