OpenAI는 인공지능(AI) 생성의 허위정보가 공직 선거에 미치는 심각한 위협에 대해 경고했습니다. 다음은 주요 내용입니다.

- AI 도구의 악용 : 사이버 범죄자와 악의적인 개인들은 ChatGPT와 같은 AI 모델을 이용해 많은 양의 허위 콘텐츠를 생성하고 있습니다. 여기에는 오해를 일으키는 뉴스 기사, 소셜 미디어 게시물, 사기성 캠페인 자료 등이 포함됩니다. 이 콘텐츠는 공공 여론을 조작하고 유권자의 결정에 영향을 미치기 위해 설계되었습니다.

- 맞춤형 허위정보 : 이러한 인물들은 데이터 마이닝 기법을 사용해 유권자의 행동과 선호를 분석합니다. 이를 통해 특정 유권자 집단을 조작하기 위한 타깃 허위정보 캠페인을 설정하여 더 효과적으로 작동하게 합니다. 이로 인해 정치적 분열이 심화되며 민주적 과정이 저해됩니다.

- 허위정보 전파 속도 : AI가 생성한 콘텐츠는 사실 확인 작업보다 훨씬 빠르게 퍼질 수 있습니다. 이 때문에 유권자들은 서로 상충하는 이야기들에 압도당하게 되며, 정보에 기반한 결정을 내리기 어려워집니다.

- 세계적 위협 : 미국 국토안보부는 러시아, 이란, 중국을 포함한 외국 세력들이 AI 기반의 허위정보 전술을 사용하여 선거에 개입하고 있다고 경고했습니다. 이러한 노력은 선거 보안에 상당한 위협이 됩니다.

- 대응 방안 : OpenAI는 이러한 문제를 완화하기 위해 AI 모델을 영향력 행사에 사용하는 계정을 차단하는 등의 조치를 취했습니다. 예를 들어, 그들은 2023년에 선거 관련 기사를 작성하고 조작된 소셜 미디어 댓글을 생산하는 여러 계정을 차단했습니다.

- 협력과 투명성 : OpenAI는 AI 생성 허위정보의 생성, 배포 및 영향을 다루기 위해 산업계, 시민 사회, 정부와의 협력 중요성을 강조합니다. 또한 AI 기술의 책임감 있는 사용과 투명한 배포의 필요성을 강조합니다.