미국 국방부는 인공지능(AI) 기술을 군사 작전에 활용하기 위해 구글, 마이크로소프트, 아마존 웹 서비스, 엔비디아, 오픈AI 등 7개의 기술 기업과 계약을 체결했다. 엔비디아와 리플렉션 등 새로운 기업들이 이번 협력에 참여하며, 미국은 중국의 AI 시스템 개발에 대한 대안을 제시하려고 노력 중에 있다.

이번 계약은 AI를 통해 전장에서의 의사 결정을 지원하고, 무기 유지보수 및 보급망 관리 등을 개선하려는 목적으로 진행되었다고 AP통신이 보도했다.

그러나 이러한 기술의 ‘윤리적 사용’과 ‘안전성’에 대한 우려가 제기되고 있으며, 특히 앤트로픽과의 갈등이 부각되고 있다. 또한, 인간의 감독이 필수적이며, AI 도구가 헌법상의 권리와 시민의 자유를 준수해야 한다는 조항이 포함된 점과 민간인 피해 가능성에 대한 우려도 논의되고 있다.

앤트로픽은 이번 계약에서 제외되었으며, 이는 군사적 AI 활용과 관련된 윤리적 문제 및 트럼프 행정부와의 갈등 때문으로 보인다. 인공지능의 전쟁 및 군사적 활용은 민간인 사망 증가와 같은 윤리적 문제를 초래할 가능성에 대한 우려가 제기돼 왔다.

AI 기술은 헬리콥터 정비 시기 예측, 병력 및 장비 이동 최적화, 드론 감시 영상 분석 등 다양한 군사적 작업을 지원할 수 있으며, 전문가들은 AI 도입 시 인간의 지나친 의존을 피하고 적절한 훈련 및 감독이 필요하다고 강조하고 있다.

미국 방부는 GenAI.mil 플랫폼을 통해 이미 AI 기능을 활용하고 있으며, AI 도입으로 작업 효율성이 크게 향상되었다고 발표했다.

* 계약 7개 업체 : 구글/마크로소프트/아마존 웹 서비스/엔비디아/픈AI/리플렉션/스페이스X

미 국방부는 구글, 마이크로소프트, 아마존 웹 서비스, 엔비디아, 오픈AI, 리플렉션, 스페이스X가 “복잡한 작전 환경에서 전투원의 의사 결정 능력을 향상시키는 데 도움을 주기 위해” 자원을 제공할 것이라고 밝혔다.

특히 주목할 만한 점은 전쟁에서의 인공지능 사용의 ‘윤리와 안전성’을 둘러싸고 트럼프 행정부와 공개적인 논쟁과 법적인 공방을 벌인 인공지능 기업 ‘앤트로픽’이 이 목록에서 빠져 있다는 것이다.

미 국방부는 최근 몇 년간 인공지능(AI) 활용을 급속히 확대해 왔다. ‘브레넌 정의센터’(Brennan Center for Justice)가 3월에 발표한 보고서에 따르면, 이 기술은 군이 전장에서 목표물을 식별하고 타격하는 데 걸리는 시간을 단축하는 동시에 무기 유지보수 및 보급망 관리를 지원할 수 있다.

하지만 인공지능은 이미 미국인들의 사생활을 침해하거나 기계가 전장에서 목표물을 선택하도록 허용할 수 있다는 우려를 불러일으켰다. 국방부와 계약을 맺은 한 회사는 특정 상황에서 인간의 감독이 필요하다는 조항이 계약에 포함되어 있다고 밝혔다.

* AI의 군사적 이용에 대한 우려 : 이스라엘이 그 사례

이스라엘이 가자 지구와 레바논에서 무장세력과의 전쟁을 벌이는 동안 인공지능의 군사적 이용에 대한 우려가 제기되었다. 미국의 거대 기술 기업들이 이스라엘에 ‘표적 추적 기능’을 은밀히 제공했기 때문이다. 그러나 민간인 사망자 수도 급증하면서 이러한 도구들이 무고한 사람들의 죽음에 일조했다는 우려가 커졌다.

조지타운 대학교 ‘안보 및 신기술 센터’(Center for Security and Emerging Technology)의 헬렌 토너(Helen Toner) 임시 소장은 “미국 국방부의 최근 계약은 전장에서 해당 기술에 과도하게 의존할 가능성에 대한 우려가 커지는 시점에 이루어졌다”고 말했다.

오픈AI의 전 이사회 멤버였던 토너는 “현대 전쟁의 상당 부분은 지휘센터에 앉아 모니터를 통해 혼란스럽고 빠르게 변화하는 상황에 대한 복잡한 결정을 내리는 사람들에 의해 좌우된다”며, “AI 시스템은 정보를 요약하거나 감시 영상을 분석하여 잠재적 목표물을 식별하는 데 도움이 될 수 있다.”고 덧붙이고, “하지만 인간의 ▷ 개입 수준, ▷ 위험 부담, ▷ 훈련 수준에 대한 적절한 기준은 여전히 ​​논의 중”이라고 말했다.

이어 토너는 “이러한 도구들을 신속하게 도입하여 효과를 발휘하고 전략적 이점을 제공하려면 어떻게 해야 할까? 동시에 운영자를 교육하고 사용법을 숙지시키되, 지나치게 신뢰하지 않도록 하는 것도 중요하다”고 질문했다.

앤트로픽은 이러한 우려를 제기했다. 이 기술 회사는 계약서에 군이 자사 기술을 완전 자율 무기 나 미국인 감시에 사용하지 않겠다는 확약을 요구했다. 피트 헤그세스 전쟁(국방)장관은 앤트로픽이 국방부가 합법적이라고 판단하는 모든 용도를 허용해야 한다고 밝혔다.

앤트로픽은 공화당 소속 도널드 트럼프 대통령이 모든 연방 기관의 자사 챗봇 ‘클로드’ 사용을 막으려 하자 소송을 제기했다. 오픈AI는 지난 3월 국방부와 기밀 환경에서 앤트로픽을 챗지피티(chatGPT)로 효과적으로 대체하는 계약을 체결했다고 발표했다. 오픈AI는 성명을 통해 “이 계약이 3월 초에 발표했던 것과 동일한 계약”임을 확인했다.

오픈 AI 측은 “몇 달 전 계약을 처음 발표했을 때 말씀드렸듯이, 미국을 지키는 사람들은 세계 최고의 도구를 가져야 한다고 생각한다”고 밝혔다.

국방부와 한 회사가 체결한 계약에는 인공지능 시스템이 자율적으로 또는 반자율적으로 작동하는 모든 임무에 대해 인간의 감독이 반드시 이루어져야 한다는 조항이 포함되어 있다고, 해당 계약 내용을 잘 아는 한 관계자가 밝혔다. 또, 해당 조항에는 인공지능 도구가 헌법상의 권리와 시민의 자유에 부합하는 방식으로 사용되어야 한다는 내용도 포함되어 있다고 한다.

이는 앤트로픽에게는 걸림돌이 될 수 있는 부분처럼 보이지만, 오픈AI는 이전에 미 국방부와 계약을 체결할 때에도 유사한 보장을 확보했다고 밝힌 적이 있다.

* 국방부의 관점

미 국방부 최고기술책임자인 에밀 마이클(Emil Michael)은 지난 1일 CNBC와의 인터뷰에서 “한 회사에만 의존하는 것은 무책임한 일이었을 것”이라며, 앤트로픽과의 마찰을 인정했다.

그는 이어 “그리고 한 파트너가 우리가 원하는 방식으로 우리와 협력하기를 원하지 않는다는 것을 알게 되었을 때, 우리는 여러 다른 공급업체를 확보하기 위해 노력했다.”고 덧붙였다.

아마존과 마이크로소프트를 포함한 일부 기업들은 오랫동안 기밀 환경에서 군과 협력해 왔으며, 이번 새로운 계약이 정부와의 파트너십에 상당한 변화를 가져올지는 즉시 명확하지 않았다. 반면, 반도체 제조업체 엔비디아와 스타트업 리플렉션과 같은 기업들은 이러한 협력에 새롭게 참여하고 있다. 두 회사 모두 오픈 소스 AI 모델을 개발하고 있는데, 마이클은 이를 통해 핵심 구성 요소들을 공개적으로 제공하여 다른 사람들이 이를 기반으로 발전시킬 수 있도록 하는 중국의 급속한 AI 시스템 개발에 대한 “미국식 대안”을 제시하는 것이 중요하다고 강조했다.

미 국방부는 군 관계자들이 이미 공식 플랫폼인 GenAI.mil을 통해 인공지능(AI) 기능을 활용하고 있다면서, “전투원, 민간인, 계약업체들이 현재 이러한 역량을 실질적으로 활용하여 수개월이 걸리던 많은 작업을 며칠로 단축하고 있다”며, “군의 인공지능 역량 증대가 전투원들에게 자신감을 가지고 작전을 수행하고 모든 위협으로부터 국가를 보호하는 데 필요한 도구를 제공할 것”이라고 강조했다.