선거전에도 AI 본격 등장하면서 법적 기준과 유권자 혼란 우려

뉴욕 정치판에 인공지능 AI가 본격적으로 등장하고 있습니다. 가상의 후보, 조작된 뉴스 이미지, 딥페이크 영상까지. AI로 만든 정치 콘텐츠가 쏟아지면서 법적 기준과 유권자 혼란에 대한 우려도 커지고 있습니다. 송지영기자의 보돕니다.

뉴욕시장에 도전하는 앤드루 쿠오모 전 뉴욕주지사. 그의 최신 선거 광고에는 지하철 기관사로, 주식 중개인으로, 공연 무대 뒤 조명 기사로 일하는 쿠오모 지사의 모습이 나옵니다.

하지만 모두 실제가 아닙니다. AI가 만들어낸 ‘가상 쿠오모’입니다.

기술은 혁신적이지만 정치권 일각에서는 광고의 메시지와 제작 방식 모두를 문제 삼고 있습니다.

맨해튼 알레스 보레스 주하원의원은 “실제 촬영팀으로도 충분히 찍을 수 있었을 장면들”이라며 AI로 인간 노동을 대체하는 듯한 연출에 우려를 나타냈습니다.

모레스 의원은 AI로 생성된 정치 콘텐츠에 대해 명확한 고지를 의무화하는 법안을 주도했습니다.

주 법에 따르면 AI가 만든 콘텐츠에는 “이 콘텐츠는 전부 또는 상당 부분이 인공지능으로 생성되었습니다”라는 문구가, 다른 텍스트와 동일한 크기 이상으로 눈에 띄게 표기돼야 합니다.

하지만 현재 이 조항이 잘 지켜지고 있냐는 의문이 나옵니다.

크리스틴 곤살레스 주상원의원은 “쿠오모 광고의 AI 고지 문구는 너무 작았고 디지털 매체 기준을 충족하지 못했다”며 법적 미비 가능성을 지적했습니다.

AI 논란은 다른 곳에서도 이어지고 있습니다.

퀸즈 시의회 공화당 후보 조너선 리날디는 자신이 대규모 친이스라엘 집회에서 연설하는 장면, 상대 후보가 다른 인물을 지지하는 장면 등을 AI 이미지로 조작해 SNS에 수십 개 게시했습니다. 특히 앤드루 쿠오모나 현직 의원 로버트 홀든이 자신을 지지한 것처럼 꾸며진 가짜 뉴스 이미지도 있었습니다.

리날디는 처음에는 “해킹당했다”고 부인했지만 나중엔 “이건 밈이고 예술”이라며 정당성을 주장했습니다.

또 다른 사례로는 에릭 애덤스 뉴욕시장이 재선 도전을 접기 전, 민주당 후보 맘다니를 공격하는 AI 이미지를 반복적으로 사용했고 그의 전 연인이 출간한 회고록 영상에는 AI로 만든 애덤스가 주인공으로 등장하기도 했습니다.

AI 정치 콘텐츠가 이제는 기술을 넘어 정치 전략과 선거법의 중심 이슈로 떠오르고 있는 가운데 ‘이것이 진짜인가’를 묻는 감별력 또한 유권자의 숙제가 되었습니다.