인공지능(AI) 기술은 전쟁에 여러 가지 측면에서 위협이 될 수 있다는 우려가 제기되고 있으며, 이는 현재 국제 사회에서 중요한 논쟁거리 중 하나입니다. 주요 위협 요인은 다음과 같습니다.

1. 자율 살상 무기(Lethal Autonomous Weapons Systems, LAWS) 개발 및 확산:

AI가 탑재된 자율 살상 무기는 인간의 개입 없이 스스로 표적을 탐지하고 공격을 실행할 수 있습니다. 이는 다음과 같은 위험을 내포합니다.

• 의사결정의 비인간화: 생사를 결정하는 중요한 판단을 인간의 윤리적, 도덕적 판단 없이 기계에 맡기게 될 수 있습니다.
• 확전 위험 증가: 인간의 판단 과정 없이 빠르게 공격이 이루어지면서 오판이나 오작동으로 인한 예상치 못한 분쟁 확대 가능성이 있습니다.
• 책임 소재 불분명: 자율 무기의 오작동이나 잘못된 공격으로 인한 피해 발생 시 법적, 윤리적 책임 소재를 가리기 어렵습니다.
• 낮은 사용 문턱: 인간 병사의 희생 없이 전쟁 수행이 가능해지면서 무력 사용에 대한 부담이 줄어들어 분쟁 발생 가능성을 높일 수 있습니다.

2. 사이버 공격의 고도화:

AI는 더욱 정교하고 강력한 사이버 공격 도구로 사용될 수도 있습니다.

• 자동화된 공격: AI가 스스로 취약점을 찾아내고 공격 방법을 개발하여 대규모의 정밀한 사이버 공격을 빠른 속도로 수행할 수 있습니다.
• 가짜 정보 및 여론 조작 (딥페이크 등): AI를 활용하여 실제와 구분하기 어려운 가짜 영상, 음성, 텍스트 등을 생성하여 적국이나 대중을 상대로 허위 정보를 유포하고 여론을 조작하는 심리전 무기로 사용될 수 있습니다.

3. 군비 경쟁 심화:

AI가 미래 전장의 핵심 기술로 부상하면서 각국은 AI 군사 기술 개발에 막대한 자원을 투입하고 있으며, 이는 새로운 군비 경쟁을 촉발하여 국제 안보를 불안정하게 만들 수 있습니다.

4. 예측 불가능성:

AI 시스템, 특히 복잡한 딥러닝 모델의 내부 작동 방식은 '블랙박스'와 같아 예측 불가능한 결과를 초래할 수 있습니다. 이는 군사 작전 수행 시 예상치 못한 상황 발생 가능성을 높입니다.

이러한 위험성 때문에 많은 국가와 국제기구, 전문가들이 자율 살상 무기 개발 및 사용에 대한 국제적인 규범 마련과 AI의 군사적 활용에 대한 윤리적 논의의 필요성을 강조하고 있습니다. AI 기술 자체는 도구이지만, 이를 어떻게 개발하고 활용하느냐에 따라 인류에게 큰 위협이 될 수도 있습니다.