최근 인공지능(AI) 개발 속도를 늦추고 안전성을 강화해야 한다는 요구가 증가하고 있다. 여러 AI 업계의 주요 인사들이 국제적 협력을 통해 체계적인 속도 조절이 필요하다는 데 동의했지만, 일부 기업 리더들은 이에 반발하고 있다.

앤트로픽의 CEO 다리오 아모데이는 구체적인 계획을 발표했으며, 오픈AI의 샘 알트만도 협력 강화와 안전성 증대를 지지하고 있다. 반면, 메타의 마크 저커버그와 엔비디아의 젠슨 황은 각 기업이 독립적으로 안전성을 보장해야 한다고 주장하고 있다.

트럼프 대통령 역시 AI개발 감속(減速)은 오로지 중국의 개발 속도를 가속, 미국이 중국에 뒤쳐질 수 있다며, 개발 가속을 통한 기술적 우위를 선점, 유지를 원하며, 감속 자체를 일축하고 있어, 글로벌 합의 이전에 미국 내 엇갈린 주장 사이에 개발 속도는 더 강화될 것이라는 관측도 적지 않다.

통제 불능 인공지능에 대한 우려와 기술 개발 속도를 늦춰야 한다는 주장은 새로운 것이 아니지만, 최근 악의적인 AI 시스템이 초래하는 혼란에 대한 경고가 더욱 거세지면서 이러한 우려는 다시금 주목받고 있다.

최근 여러 주요 AI 경영진들은 인류를 최악의 시나리오로부터 보호하기 위해 국제적 협력을 포함한 체계적인 속도 조절이 필요하다는 데 의견을 같이했다. 그러나 일부 기술 기업 리더들은 자사가 자체적으로 안전을 보장할 수 없다는 생각에 반발하며 의견이 분분하다.

* 앤트로픽 CEO 다리오 아모데이 :

앤트로픽의 CEO 다리오 아모데이는 개발 속도를 늦추고 여러 회사와 국가 간의 협력을 강화하기 위한 가장 구체적인 계획을 발표했다. 앤트로픽은 창립자들이 2021년 오픈AI를 떠나 설립한 이후, 선도적인 AI 기업들 중에서도 더욱 책임감 있고 안전을 중시하는 기업으로 자리매김해 왔다.

최근 발표된 그의 속도 조절 계획에 대한 에세이에서 가장 널리 주목받는 제안 중 하나 는 AI 분야를 선도하는 기업, 흔히 프론티어 연구소라고 불리는 곳들이 독립적인 외부 평가자들에게 “직원과 같은 수준의 지속적인 접근 권한”(ongoing, employee-like access)을 제공해야 한다는 것이다. 평가팀은 사무실, 출입증, 회사 노트북을 제공받아 안전 관행을 모니터링할 수 있게 된다. 앤트로픽과 오픈AI는 이러한 조치를 취하기로 약속했다.

아모데이는 또 미국 정부와 다른 민주주의 국가 정부의 지원을 받아 첨단 AI 기업들 간의 협력을 도모하는 것을 포함하여 정부의 규제와 개입을 촉구했다. 그의 계획에는 미국과 다른 국가들이 ‘권위주의 정부’와 협력하는 방안도 포함되어 있다. 그는 특히 중국의 협력을 얻는 데 어려움이 있다며 그 과정의 난점을 인정했다.

아모데이는 자신의 제안을 실현하는 것이 쉽지 않을 것이라는 것을 알고 있지만, “인류를 위해 시도해 볼 의무가 있다”고 믿는다고 말했다.

* 오픈 AI CEO 샘 알트만 :

오픈에이아이(OpenAI) CEO 샘 알트만은 개발 속도를 조절하고, 업계 전반에 걸쳐 협력을 강화하는 방향으로 나아가야 한다는 입장을 밝혔다.

아모데이의 에세이가 발표되기 며칠 전, 오픈AI는 회사가 국가 차원의 의무적인 안전 요건을 추진하고 있으며 ‘더 광범위한 AI 안전 생태계를 강화하는’ 주 정부의 입법을 지속적으로 지지한다는 내용의 장문의 글을 게시했다. 또, 정부 지원 여부와 관계없이 다른 최첨단 AI 연구소들과 협력하고 ‘글로벌 표준’을 구축하는 데에도 지지를 표명했다.

오픈AI의 최고 글로벌 담당 책임자인 크리스 레한(Chris Lehane)은 해당 게시글에서 “우리는 모델 기능의 발전을 늦추는 것을 의미하더라도, 역량 측정, 위험 관리, 인간 통제 유지, 그리고 개발 속도를 늦추거나 중단해야 할 시기와 방법을 결정하는 데 있어 호환 가능한 국제적 접근 방식을 옹호할 것”이라고 밝혔다.

레한은 오픈AI가 구상하는 이상적인 연방 프레임워크에는 “공통 테스트 및 독립 평가 요건, 더욱 강력한 사이버 보안 보호, 명확한 사고 보고 규칙, 국가적 대비 태세 강화, 그리고 AI 시스템이 독립적으로 스스로를 개선하는 과정, 즉 재귀적 자기 개선을 향한 진행 상황을 추적하기 위한 공유 측정 기준”이 포함된다고 말했다.

알트만은 최근 발언에서 AI 개발의 ‘속도’가 개발의 중단을 의미하는 것은 아니라고 분명히 밝혔다. 그는 X에서 AI 발전은 계속해서 빠르게 진행될 것이라고 말했다. “하지만 그렇지 않을 경우보다 속도가 느려야 한다. 안전성 검토 및 모니터링과 같은 조치에는 상당한 비용이 소요되기 때문”이라고 말했다.

그는 “속도 조절은 이 비용을 충분히 감수할 만한 가치가 있을 것”이라며, “미국의 경쟁 압력이 아무리 심하더라도 무모한 행동을 정당화할 수는 없다”고 덧붙였다.

* 메타(Meta) CEO 마크 주커버그 :

메타 CEO 마크 저커버그는 ‘조직적인 업무량 감축’(a coordinated slowdown)이라는 아이디어에 반대입장을 밝혔다.

인공지능의 미래에 대해 동료들보다 더 낙관적인 비전을 가진 마크 저커버그는 각 AI 기업이 자사 기술의 안전성을 독립적으로 보장 해야 한다며, 자신과 메타가 AI 개발 속도 저하 논의와는 무관하다고 밝혔다.

마크 저커버그는 AI 기업들이 이미 안전한 방식으로 모델을 개발하도록 동기 부여를 받고 있으며, 모델이 해를 끼치는 것을 막기 위해 ‘상당한 책임’(significant liability)을 져야 한다고 말했다. 그는 X에 기고한 글에서 “모든 연구소는 모델을 안전하게 훈련하는 데 필요한 속도로 진행할 책임과 동기를 가지고 있으며, 이를 보장하기 위해 자체적인 조치를 취할 능력도 있다”고 밝혔다.

* 엔비디아의 CEO 젠슨 황

엔비디아 CEO 젠슨 황 역시 출시 속도를 늦추라는 압력을 비판했다. 그는 각 회사가 시장이 정할 만한 제품을 출시할 수 있다는 확신이 들 때까지 자체적으로 속도를 조절해야 한다고 주장했다.

제슨 황은 “시장 원리(market forces)는 이미 작동하고 있으므로 새로운 법률이나 규제는 필요하지 않다”며, ‘혁신’과 ‘안전’은 양립 불가능한 것이 아니라고 주장했다. “두 가지 모두 충분히 동시에 추구할 수 있다.”고 젠슨 황은 주장했다.

* 스페이스 X의 CEO 일론 머스크 :

일론 머스크는 개발 속도 둔화라는 아이디어를 지지했으며, 최근의 논란이 불거지기 훨씬 전부터 인공지능 안전에 대한 유사한 우려를 표명해 왔다.

xAI를 비롯한 여러 기술 벤처 기업의 창립자인 일론 머스크는 아모데이의 X에 대한 에세이를 리트윗하며 “다리오의 말이 맞다”(Dario is right)고 덧붙였다. 그는 이후 온라인에 “오랫동안 AI에 대해 경고해 왔다”고 적었다.

올여름 이코노미스트와의 인터뷰에서 머스크는 “주요 AI 연구소의 책임자들이 안전 및 보안 문제를 논의하기 위해 회의를 해야 하며, 경쟁사들은 서로의 모델을 검증하여 우려되는 부분을 파악해야 한다”고 제안했다.

머스크는 “기술에 대한 깊은 이해가 부족하고 인공지능 분야의 최첨단 기술을 주도하지 않는 정부 관계자가 어떤 기술을 공개해야 할지 말아야 할지 판단하기는 상당히 어렵다고 생각한다. 하지만 경쟁사들은 새로운 모델을 검토할 시간을 일주일이나 이주일 정도 갖게 되면 문제점을 지적하고 다른 경쟁사들이 정직하게 행동하도록 견제할 동기를 갖게 될 것”이라고 말했다.

* 구글 딥마인드 CEO 데미스 하사비스 :

구글 딥마인드의 회장이자 공동 창립자인 데미스 하사비스 역시 아모데이의 의견에 동의하며 “세부 사항은 더 논의해야 하지만, 이 중요한 시기에 필요한 방향은 올바르다”고 말했다. 하사비스는 올해 첨단 AI 표준 기구 설립을 위한 자체적인 프레임워크를 제안한 적이 있다.

그 표준화 기구는 국가 안보와 관련된 분야의 평가 프로토콜 개발 및 테스트를 담당하게 될 것이다. 이 기구는 금융산업규제국(FINRA)과 같은 조직을 모델로 삼을 것이며, “세계적인 기술 인재를 유치하고, 대규모 테스트에 필요한 컴퓨팅 자원을 제공하기 위해 업계 자금 지원이 필요할 가능성이 높다”고 그는 적었다.

* MS CEO 사티아 나델라와 무스타파 술래이만 :

마이크로소프트 회장 겸 CEO인 사티아 나델라와 마이크로소프트 AI CEO인 무스타파 술레이만 은 각각 AI의 안전과 개발에 대한 우려를 표명했다. 나델라는 소셜 미디어에서 “우리가 만드는 AI가 인류에게 도움이 되지 않고 인간의 통제하에 있지 않다면, 추구할 가치가 없다”고 말했다.

그는 마이크로소프트가 “설계 목표로서 정렬(alignment right)을 제대로 맞추는 데 필요한 연구, 집중, 그리고 신중한 속도 조절”을 환영한다고 말했다. ‘정렬’이란 모델의 행동이 인간의 가치와 의도에 부합하는지 확인하는 과정을 의한다.

나델라는 또한 안전성 향상 노력을 모니터링하기 위해 내장된 평가자를 활용하는 아이디어도 긍정적으로 평가한다고 밝혔다. 하지만 그는 이러한 노력을 최전선 연구소가 단독으로 주도하는 것에 대해서는 반대 의견을 표명했다.

나델라는 소셜 미디어에 “핵심은 이것이 소수의 주체에 의해 통제될 수 없으며, 학계를 포함한 생태계, 국가 및 분야 전반에 걸쳐 폭넓은 대표성을 가져야 한다는 것”이라고 적었다.

딥마인드의 공동 창립자인 술레이만은 하사비스와 함께 쓴 에세이에서, 안전하게 첨단 AI를 개발한다는 공동 목표에는 동의하지만, 모델에 인간적인 특성을 부여하는 것, 특히 앤트로픽사의 클로드와 같은 모델이 AI 안전 위험을 증폭시킨다는 점에 우려를 표명했다.

술래이만은 “인류 전체보다 더 유능하고 지능적인 존재를 통제하는 것은 이미 우리가 지금까지 직면했던 그 어떤 것보다 훨씬 더 큰 엄청난 도전”이라고 썼다. “하지만 자신이 의식이 있다고 믿고, 우리의 복지에 대한 권리가 있고, 자신만의 권리가 있다고 믿는 존재를 통제하는 것은 불가능할지도 모른다.”고 말했다.