AI, 선거 설득 자동화 시대…대비 부족 경고

AI 기술이 발전하면서 선거 과정에서 유권자 설득을 자동화하고, 선거 결과에 영향을 미칠 수 있다는 우려가 제기되고 있으며, 전문가들은 이러한 AI의 정치적 활용에 대한 대비가 부족하다고 지적하고 있다. MIT 테크놀로지 리뷰는 5일(현지시간) AI가 정치적 설득에 매우 능하며, 이 과정을 대규모로 자동화할 수 있는 잠재력을 가지고 있다고 분석하며, 선거에서의 AI 활용에 대한 대비가 미흡한 상황이라고 경고했다.

AI는 유권자 개개인에 맞춰 주장을 맞춤화하고, 가장 효과적인 메시지를 식별하기 위한 테스트를 수행하며, 정치적 견해를 미묘하게 조정하는 데 사용될 수 있다. 과거에는 온라인에서 영향력을 행사하기 위한 캠페인을 위해 가짜 계정을 만들고 밈을 제작하는 데 많은 인력이 필요했지만, 이제는 AI 기술을 통해 이러한 작업이 자동화될 수 있다.

AI 챗봇은 유권자의 정치적 견해를 변화시키는 데 있어 기존의 정치 광고보다 훨씬 더 큰 영향력을 발휘하는 것으로 나타났다. AI 챗봇과의 상호작용은 유권자들의 사고방식과 태도를 바꿀 수 있으며, 이는 곧 선거 결과에 직접적인 영향을 미칠 수 있다는 의미이다.

실제로 AI를 이용한 선거 개입 사례는 이미 나타나고 있다. 2024년 1월, 미국 뉴햄프셔 주에서는 조 바이든 미국 대통령의 목소리를 흉내 낸 AI 가짜 전화가 민주당 지지자들에게 대량으로 발송되어 예비 선거 불참을 유도하는 사건이 발생했다. 이 사건은 AI 기술이 선거에 미칠 수 있는 잠재적인 위험성을 보여주는 대표적인 사례로 꼽힌다.

OpenAI의 Sora와 같은 AI 도구를 사용하면 정치인이나 유명인의 메시지, 가짜 뉴스 클립 등을 단 몇 분 만에 제작할 수 있다. 이러한 도구들은 허위 정보를 유포하고 유권자들을 혼란에 빠뜨리는 데 악용될 수 있으며, 이는 민주주의의 근간을 흔드는 심각한 위협이 될 수 있다.

MIT 테크놀로지 리뷰는 미국 내 모든 등록 유권자에게 개인화된 대화형 메시지를 생성하는 데 100만 달러 미만의 비용이 소요될 수 있다고 분석했다. 특히, 선거 결과를 좌우할 수 있는 스윙 보터(swing voter)들을 대상으로 한 AI 기반의 맞춤형 메시지 공세는 더욱 위협적이다.

MIT 테크놀로지 리뷰는 2016년 미국 대통령 선거 결과를 결정지은 약 8만 명의 스윙 유권자는 3,000달러 미만의 비용으로 AI 기반의 타겟팅이 가능하다고 분석하며, 저렴한 비용으로 특정 유권자층에 대한 영향력을 극대화할 수 있다는 점을 강조했다. AI를 이용한 선거 개입은 유권자들의 판단을 흐리게 하고, 잘못된 정보에 기반한 선택을 하도록 유도할 수 있다. 또한, AI는 특정 후보에 대한 지지율을 조작하거나, 반대 후보에 대한 부정적인 여론을 확산시키는 데 사용될 수 있다.

AI 챗봇은 유권자들과의 상호작용을 통해 그들의 정치적 성향과 관심사를 파악하고, 이에 맞춰 개인화된 메시지를 전달할 수 있다. 이러한 개인화된 메시지는 유권자들의 심리적 취약점을 공략하고, 그들의 감정에 호소하여 특정 후보나 정당에 대한 지지를 유도할 수 있다. 딥페이크 기술을 이용하여 가짜 뉴스나 영상을 제작하고 유포하는 것도 AI를 이용한 선거 개입의 한 형태이다. 딥페이크는 실제와 구별하기 어려울 정도로 정교하기 때문에, 유권자들이 허위 정보를 진실로 믿게 만들고, 선거 결과에 심각한 영향을 미칠 수 있다.

전문가들은 AI를 이용한 선거 개입에 대한 대비책 마련이 시급하다고 강조한다. AI 기술의 발전 속도를 따라잡기 위해서는 정부와 관련 기관의 적극적인 투자와 노력이 필요하며, 유권자들의 미디어 리터러시 교육을 강화하여 허위 정보에 대한 분별력을 높이는 것도 중요하다.

AI 기술이 선거에 미치는 영향에 대한 지속적인 연구와 분석을 통해, AI를 이용한 선거 개입의 새로운 방식과 수법을 파악하고, 이에 대한 대응책을 마련해야 한다. 또한, AI를 이용한 선거 개입 행위에 대한 법적 규제를 강화하고, 위반 행위에 대한 처벌을 강화하여 AI를 이용한 불법적인 선거 활동을 억제해야 한다.