2024년 미국 대선이 다가오면서 인공지능(AI)과 딥페이크 기술이 선거에 미치는 영향을 두고 우려가 커지고 있다.

에포크타임스는 AI 및 딥페이크 전문가들과 함께 가짜 콘텐츠로 불거질 수 있는 문제들, 그리고 이에 대응하기 위한 방안에 관해 이야기하는 시간을 가졌다.

딥페이크 탐지업체 딥미디어의 리줄 굽타 최고경영자(CEO)는 “2024년 선거는 이전 선거들과는 다른 방식의 ‘딥페이크 선거’가 될 것”이라고 말했다.

굽타 딥미디어 CEO는 “딥페이크 기술은 이전에도 존재했지만 사람들을 속이기에는 품질이 완벽하지 않았다. 이전까지 사람들은 딥페이크를 보면 가짜라는 사실을 알아차릴 수 있었다”며 “딥페이크의 품질은 나날이 계속해서 발전하고 있다. 일반인이 보기에 진짜라고 믿을 정도로 그 수준이 높아졌다. 이에 더해 오늘날 접근성까지 확보한 딥페이크는 2024년 널리 퍼질 것”이라고 예측했다.

실제 오늘날 일반 대중은 온라인상에서 전용 툴을 이용해 딥페이크를 손쉽게 제작, 이용할 수 있다. 여기다 딥페이크 도구 대부분은 무료다. 제작 시간 역시 1분도 채 걸리지 않는다.

“이것이 바로 2024년 대선이 딥페이크 선거가 될 이유”라고 지적한 굽타 CEO는 “미래에는 사람들이 무엇이 진짜이고 가짜인지 구분할 수 없을 것”이라는 부정적인 전망을 내놓았다.

대중의 역량 강화

딥페이크의 위협이 나날이 증가하는 가운데, 딥미디어는 AI가 생성한 허위 정보에 대한 대중의 대응 능력이 제고돼야 한다는 방향성에 따라 소셜미디어 X(옛 트위터)에 딥페이크 탐지 기능을 무료로 제공하기로 했다.

소셜미디어 이용자가 미디어 콘텐츠에 해시태그 #DeepID를 달고 딥미디어 공식 계정을 태그하면 딥미디어의 SNS 봇이 딥페이크 탐지 시스템을 통해 해당 콘텐츠를 즉시 진단, 곧바로 결과를 제공하는 방식이다.

굽타 CEO는 “이를 통해 일반 시민들이 AI의 잘못된 정보로부터 자신을 보호하는 데 필요한 도구를 확보할 수 있기를 바란다”고 설명했다.

전문가들에 따르면, 오는 2024년 미 대선은 딥페이크가 대중의 인식과 선거 결과에 미치는 영향에 인간이 대처할 수 있는지를 진단하는 중대한 시험대가 될 전망이다. 굽타 CEO는 “이 문제는 기술적인 해결책을 넘어서 사람들이 경계를 늦추지 않아야 하는 문제”라고 강조했다.

굽타 CEO와 함께 딥미디어를 설립한 공동창립자 겸 딥미디어 최고운영책임자(COO) 엠마 브라운은 “이제 막 시작된 2024년 대선 레이스에서 (혹시 벌써부터) AI나 딥페이크가 발견됐는가”에 관한 질문에 그렇다고 답했다.

브라운 COO는 “일례로 힐러리 클린턴이 대선 후보인 론 드산티스 플로리다 주지사를 지지하는 딥페이크 동영상이 있었다”며 “이는 드산티스 후보의 선거 운동에 해가 될 수 있다”고 분석했다.

앞으로 남은 대선 레이스에서 이와 같은 가짜 영상은 더욱더 늘어날 것이라고 브라운 COO는 귀띔했다.

출처의 신뢰성

AI 스타트업 컨버시카의 짐 케스케이드 CEO는 2024년 대선에서 AI의 다른 역할도 존재할 수 있다는 가능성을 제시한다.

케스케이드 CEO는 “우리는 응용 AI의 긍정적인 목적과 선한 측면을 추구한다”고 밝혔다. AI 기술이 신중하게 활용될 경우 선거 과정을 개선하는 데 기여할 수 있다는 설명이다.

이어 “AI 도구는 선거에서 커뮤니케이션을 강화하고, 유권자에 대한 귀중한 인사이트를 제공하며, 선거 캠페인에 드는 비용을 줄일 수 있다”는 입장을 피력했다. 그러면서도 “다만 AI를 긍정적인 목적으로 활용하는 것과 오용하는 것 사이에서 균형을 잡는 것이 중요하다”는 의견을 분명히 했다.

그러면서 “정치 담론에서 AI가 생성한 콘텐츠를 윤리적으로 사용하고 선거 상황에서 정보의 신뢰성을 보장하기 위해서는 경계를 늦추지 말아야 한다. 무엇보다도 콘텐츠의 출처가 신뢰할 수 있는 출처여야 한다”고 거듭 강조했다.

케스케이드 CEO는 “출처를 조사해야 한다. 이것은 기본”이라며 “아직은 기술이 진짜 정보와 가짜 정보를 완벽히 구분할 수 있을 만큼 발전하지 못했지만, 정보를 제공하는 출처의 신뢰성을 평가함으로써 이 같은 문제를 보완할 수 있다”고 전했다.

2024년의 문제

2024년 대선이 직면한 딥페이크 문제는 다방면에 걸쳐 있다. AI 기술의 급격한 발달을 기반으로 한 가짜 콘텐츠들은 매우 쉽게 제작될뿐더러 여론을 조작하고 불화를 조장하는 데 악용된다. 그리고 이는 대선 후보 및 정치 기관에 대한 신뢰를 약화한다.

전문가들은 정부, 기업, 사회 전체가 디지털 문해력과 인식을 증진하는 한편 AI의 악용에 대응하기 위한 공동의 노력을 기울여야 한다고 입을 모은다.

케스케이드 CEO는 대선 후보들을 향해 “AI가 사회에 유익한 방향으로 활용될 수 있도록 AI에 대한 정책과 규제를 제안해 달라”고 촉구했다.

또한 유권자를 비롯한 시민들을 향해서는 “딥페이크와 AI의 최신 정보를 파악하고, 이와 함께 분석적 사고 능력을 통해 온라인상에서 접하는 정보를 비판적으로 평가해 스스로를 보호해야 한다”고 당부했다.

*황효정 기자가 이 기사의 번역 및 정리에 기여했습니다.