AI는 드론 전쟁을 혁신하고 있으며, 인간 개입 없이 목표를 식별하고 추적하며 공격할 수 있는 치명적인 자율 무기 시스템(Laws)을 개발하고 있습니다.

미국 국방부의 Replicator 프로그램 아래에서 개발 중인 이 시스템은 가까운 미래에 수천 대의 자율 드론을 다양한 분야에 배치하는 것을 목표로 하고 있습니다.

전쟁의 미래는 드론 떼를 포함할 가능성이 높습니다. 여러 대의 드론이 서로와 인간과 소통하며 복잡한 임무를 수행할 수 있습니다. 이러한 드론 떼는 여러 각도에서 공격하여 적을 압도할 수 있으며, 이는 개미들이 타겟을 압도하는 방식과 유사합니다. 하지만 이 기술은 인간의 감독과 통제를 유지해야 한다는 중요한 윤리적 문제를 제기합니다.

드론의 자율성이 증가함에 따라 민간인 사상자 발생 위험과 책임 부족 등의 윤리적 딜레마가 생기고 있습니다. AI 알고리즘이 목표에 대한 결정을 내리면서, 인간의 의사결정과 기계의 행동 간에 간극이 커지고 있습니다. 이는 "비극적인 실수"가 기계의 잘못으로 돌려질 수 있는 가능성을 내포하고 있습니다.

AI가 탑재된 드론은 이미 러시아-우크라이나 전쟁과 같은 갈등에서 존재감을 드러내며 군사적 이점을 제공하고 있습니다. 이 드론들은 공중 우세를 거부하고 국가 및 비국가 행위자와의 전투에서 결정적인 이점을 제공합니다. 그러나 전자전과 방해 기술처럼 그들의 작전을 방해할 수 있는 도전 과제에 직면해 있습니다.

AI의 발전 덕분에 드론은 제한된 의사결정을 내리고 경로 계획을 할 수 있으며, 일부 시스템은 인간 조작자가 목표를 설정하면 독립적으로 작동할 수 있습니다. 그러나 치명적인 결정에 대한 완전한 자율성은 여전히 논란의 여지가 있으며, 기술적, 윤리적, 규제적 장애물에 직면해 있습니다. 특히 우크라이나와 같은 자원이 제한된 환경에서 AI를 통합하는 데 드는 비용과 복잡성은 큰 도전 과제가 됩니다.

AI 기반 드론 떼의 확산은 글로벌 권력 역학을 재정립할 수 있으며, 항공모함이나 스텔스 폭격기와 같은 고가의 군사 자산이 저렴한 드론 떼의 공격에 취약해질 수 있습니다. 이러한 더 경제적이고 자율적인 무기로의 전환은 계속될 것으로 예상되며, 미국과 중국 모두 이러한 기술에 대규모로 투자하고 있습니다.

군사 전문가들 사이에서는 치명적 무력 사용에 있어서 인간이 의사결정 과정에 계속 포함되어야 한다는 데에 동의하고 있지만, 현대 전투의 속도와 복잡성으로 인해 인간을 제외하려는 압력이 높아지고 있습니다. 연구자들은 의도치 않은 결과를 방지하고 책임성을 보장하기 위해 자율성과 인간 감독의 필요성을 균형 있게 조정하기 위해 노력하고 있습니다.

요약하자면, AI는 자율 작전, 드론 떼 및 향상된 타겟팅 기능을 통해 드론 전쟁을 혁신하고 있습니다. 하지만 이러한 발전은 책임 있는 기술 사용을 보장하기 위해 해결해야 할 윤리적, 책임성, 규제적 도전 과제를 동반하고 있습니다.