최근 전 세계적으로 ‘지브리 스타일 프사(프로필 사진)’가 유행하는데서 보듯 이제 생성형 AI 등을 통해 제작한 영상이나 이미지 등은 주변에서 흔히 찾아볼 수 있다.

중앙선거관리위원회는 누구나 손쉽게 AI를 활용한 영상이나 이미지를 제작할 수 있는 만큼 제21대 대통령선거를 앞두고 유권자들이 이러한 영상이나 이미지를 활용할 때 선거법에 위반되지 않도록 각별한 주의를 당부했다.

대통령선거가 40여 일 앞으로 다가오면서 생성형 AI로 제작한 영상이나 이미지 등을 SNS나 커뮤니티 사이트 선거운동을 위해 사용하게 되면 공직선거법 제82조의8에 위반될 수 있다는 취지다.

위반 사례는 지지하는 예비후보자의 딥보이스 음성 또는 딥페이크 이미지를 제작해 지지·추천의 글과 함께 SNS 등에 게시하는 행위, 반대하는 예비후보자와 관련된 이슈를 부각시키기 위한 목적으로 딥페이크 영상 등을 제작해 낙선해야 한다는 등의 글과 함께 커뮤니티사이트 등에 게시하는 행위 등이다.

‘공직선거법’ 제82조의8(딥페이크영상등을 이용한 선거운동)는 ‘누구든지 선거일 전 90일부터 선거일까지 선거운동을 위하여 인공지능 기술 등을 이용하여 만든 실제와 구분하기 어려운 가상의 음향, 이미지 또는 영상 등(이하 ‘딥페이크영상등’이라 함.)을 제작ㆍ편집ㆍ유포ㆍ상영 또는 게시하는 행위를 하여서는 아니 된다‘고 규정하고 있다.

이를 위반할 시 ‘공직선거법’ 제255조 제5항에 따라 7년 이하의 징역 또는 1천만원 이상 5천만원 이하의 벌금에 처해질 수 있다.

중앙선관위는 딥페이크 영상 위법게시물 등 확산을 차단하기 위해 지난 9일부터 중앙 및 시·도선관위에 특별대응팀을 운영하고, 지난 15일에는 검찰·경찰 및 네이버·카카오 등과 유관기관과 공동 대응 방안을 논의하는 등 선거 딥페이크에 적극 대응 중이다.

중앙선관위는 특별대응팀을 통해 사이버상 위법 게시물을 상시 모니터링하고 위반 혐의가 있는 게시물 발견 시 SNS·포털사 등에 신속히 삭제요청을 해 위법 게시물의 확산을 방지하고 있다.

또한 딥페이크 영상 등의 위법 여부 판별을 위해 ‘시청각적 탐지→ 프로그램 감별→ AI 전문가 감별’의 3단계 감별체계를 운영한다.

특히 프로그램 감별에는 국립과학수사연구원(NFS), 한국전자기술연구원(KETI)이 공동 개발한 감별 도구 등을 활용해 판별의 정확성을 더욱 높일 예정이다.

중앙선관위는 선거운동과 관련한 게시물 중 후보자 등 등장인물이 근거를 밝혀 직접 신고·제보한 경우 권리침해에 따른 ‘통지 및 게시중단(Notice and Takedown)’ 원칙을 활용해 포털사 등에 선제적으로 삭제 요청할 방침이다.

이러한 확산 방지 조치와 더불어 신고·제보 웹배너 게시, 선거운동용 딥페이크 영상 게시 중지 안내 등 SNS·포털사와 협업을 통한 자정캠페인도 함께 실시한다.

중앙선관위는 허위사실공표·비방행위가 후보자에게 회복하기 어려운 피해를 입힐 수 있고 유권자의 올바른 선택을 방해해 선거 결과를 왜곡시킬수 있는 만큼 예방과 확산 방지에 최선의 노력을 다할 예정이다.

특히 파급력이 큰 악의적인 딥페이크영상등 유포자는 고발 등 엄중하게 대응할 방침이다.