최근 기술 대기업들이 2024년 선거에서 AI의 부정 사용 문제를 해결하기 위해 나서고 있습니다. 다음은 주요 내용입니다.

- AI 부정 사용 방지를 위한 기술 협약 : 구글, 메타, 마이크로소프트, OpenAI, 틱톡, 아마존, 어도비 등 여러 대기업들이 '2024년 선거에서 AI 부정 사용 방지를 위한 기술 협약'에 서명했습니다. 이는 AI가 글로벌 선거에 개입되는 것을 막기 위한 자발적인 약속입니다. 협약에는 정치 후보자의 외모, 목소리, 행동을 위조하거나 변형할 수 있는 AI 생성 오디오, 비디오, 이미지와 같은 부정한 AI 콘텐츠의 위험을 탐지하고 완화하기 위한 기술을 개발하고 구현하겠다는 약속이 포함되어 있습니다.

- 탐지 및 완화 : 이들 기업은 자사 플랫폼에서 부정한 AI 콘텐츠의 유통을 탐지하고 적절히 대응하는 작업을 진행하고 있습니다. 또한, 합성 콘텐츠를 식별하고 라벨링하기 위한 기술인 워터마킹 및 콘텐츠 출처 표시와 같은 기술을 개발하고 있습니다.

- 협력 및 투명성 : 기술 대기업들은 팩트체크 기관, 지역 및 주 정부 관계자, 다른 산업의 노력과 협력하여 탐지 및 완화 방법을 향상시키고 있습니다. 그들은 부정한 AI 콘텐츠를 어떻게 다루는지에 대한 투명성을 대중에게 제공하고, 대중 인식 및 미디어 리터러시를 강화하는 노력을 지원하겠다고 약속하고 있습니다.

- 도전 과제와 우려 : 그러나 이러한 노력에도 불구하고 여전히 도전 과제가 존재합니다. AI 생성 콘텐츠가 소셜 미디어 플랫폼을 가득 채우고 있으며, AI 생성 이미지에 대한 수정이 탐지 시스템의 정확성을 떨어뜨릴 수 있습니다. 또 이러한 협력이 경쟁을 억압하고 AI 분야의 혁신을 저해할 가능성에 대한 우려도 있습니다.

기술 대기업들의 이러한 공동 노력은 AI의 오용으로부터 선거의 무결성을 보호하기 위한 중요한 단계입니다. 그러나 이러한 조치가 얼마나 효과적일지, 추가 조치가 필요한지는 앞으로 지켜봐야 할 문제입니다.