2024년 11월 12일, 캐나다의 산업장관인 프랑수아-필립 샹파뉴가 주도하는 캐나다 정부는 캐나다 인공지능 안전 연구소(CAISI)의 출범을 발표했습니다. 이 연구소는 인공지능(AI) 기술의 안전한 개발과 배포를 보장하고 위험을 다루는 것을 목표로 하고 있습니다.

주요 내용:
- 목적과 목표: CAISI는 AI가 선거 개입, 허위 정보 캠페인, 사이버 보안 침해 등에서 악용될 가능성을 연구하고 이를 완화하여 AI 기술에 대한 공공의 신뢰를 구축하는 데 중점을 두고 있습니다.

- 자금 지원: 이 연구소는 향후 5년 동안 5천만 달러의 지원을 받습니다. 이는 2024년 연방 예산에서 발표된 24억 달러 규모의 AI 관련 투자 중 일부입니다.

- 협력: CAISI는 AI 안전 연구소의 국제 네트워크의 일환으로 전 세계 유사 조직들과 협력할 예정이며, 첫 회의는 샌프란시스코에서 열릴 예정입니다. AI 기술은 국경이 없기 때문에 이러한 국제 협력이 중요합니다.

- 연구 초점: 연구소는 캐나다 고급 연구소(CIFAR)의 자금을 통해 수행되는 응용 연구와 연구자의 주도 하에 이루어지는 연구, 그리고 캐나다 국립 연구 위원회가 이끄는 사이버 보안과 같은 우선 과제에 초점을 맞춘 정부 주도 프로젝트를 진행합니다.

- 파트너십: CAISI는 캐나다 국립 연구 위원회, CIFAR, 캐나다의 세 개의 국가 AI 연구소(Amii, Mila, Vector Institute)와 협력하여 AI 위험을 이해하고 이를 해결하기 위한 방안을 개발할 것입니다.

- 글로벌 맥락: CAISI의 출범은 AI에 대한 안전 지침을 설계하기 위한 세계적인 노력과 일치하며, 이는 5월 서울에서 세계 지도자들이 공개 지원 안전 연구소 네트워크를 구축하기로 합의한 결과입니다.

CAISI의 설립은 안전하고 책임 있는 AI 개발을 촉진하기 위한 캐나다의 광범위한 전략의 일환으로 진행되며, 여기에는 범캐나다 AI 전략, 제안된 인공지능 및 데이터 법안, 그리고 고급 생성 AI 시스템의 책임 있는 개발 및 관리에 대한 자발적 행동 강령 등이 포함됩니다.