오픈 AI의 최고경영자(CEO) 샘 알트만(Sam Altman)은 “소수의 기업이 인공지능(AI)을 장악하는 것이 가장 큰 우려 사항 중 하나”라며, “그건 정말, 정말 나쁜 일일 것”(That'd be very, very bad)이라고 강조했다.

비즈니스 인사이더 27일(현지시간) 보도에 따르면, 샘 알트만은 “자신이 가장 두려워하는 것 중 하나로 ‘인공지능 권위주의’(AI authoritarianism)”를 꼽았다.

‘AI 권위주의’는 AI 기술이 소수의 기업이나 국가에 의해 독점되어 통제되고, 그들이 기술 접근권을 독점하는 상황을 말한다. 이는 기술적 자유(technical liberty)와 대조되는 개념으로, 인공지능이 민주적으로 활용되지 못하고 특정 권력의 도구로 전락하는 위험성을 경고하는 말이다.

특히 지난주 중국의 작은 기업인 문샷AI가 내놓은 ‘오픈소스 모델’인 키미 K3(Kimi K3)가 공개된 후 AI 접근권을 둘러싼 논쟁이 미국과 중국 간에 벌어지고 있다.

샘 알트만은 최근 팟캐스트 ‘렐렌틀레스’(Relentless트에서 인공지능에 대한 가장 큰 우려 중 하나는 “인공지능 자체가 너무 강력해지는 것 자체가 아니라, 단 하나의 기업이 그 힘을 장악할 수 있다는 점”이라며, “현재 우리가 직면한 가장 중요한 싸움은 인공지능이 지배하는 권위주의의 세계로 나아갈 것인가, 아니면 자유로운 세상으로 나아갈 것인가 하는 것”이라고 지적했다.

그는 “인류가 안전을 위해 자유를 포기할 때마다 장기적으로는 순손실을 봤다”면서 “우리는 이 기술을 사람들의 손에 맡길 것이다. 그들에게 권한을 부여할 것이다. 사회가 스스로의 생각을 표현하고 원하는 방식으로 이 기술을 사용할 수 있도록 할 것”이라고 내다봤다.

세계에서 가장 강력한 AI 모델을 보유한 소수의 기업 중 하나인 오픈AI의 수장이 내놓은 이 주장은 매우 인상적이다. 오픈AI는 오픈소스가 아닌 독점 기술을 사용하기 때문에 기술을 공유하지 않는다. 그런 그가 왜 중국이 추구하고 있는 오픈소스에 의한 공개적인 모두를 위한 AI이어야 한다고 했을까? 그의 의도 이전에 그의 발언은 시의적절하다. 지난주 실리콘밸리와 워싱턴에서 첨단 모델의 아키텍처를 일반 대중에게 어느 정도까지 공개해야 하는지에 대한 논쟁이 벌어진 직후에 나온 발언이다.

이재명 대통령도 샌프란시스코 AI 서밋(summit)과 빅테크 수장들의 모임(Meetup)에서 인공지능 시대의 ‘AI 기본사회’(AI Basic Society)를 말하며, ‘모두를 위한 인공지능(AI for ALL)’이어야 한다고 주창했다. 폐쇄형의 최첨단 AI 기술을 국가 안보 차원에서 바라보고, 이른바 “AI 패권주의(AI Hegemonism)”를 추구하려는 트럼프 행정부와는 사뭇 다른 견해를 샘 알트만이 내놓아 주목된다. 패권 추구는 아닐지라도 ‘AI 권위주의’로 일방적이고 독재적 권력의 수단이 되는 AI는 반드시 막아야 한다는 점에서 바람직한 발언이다.

최근 중국의 문샷 AI가 개발한 강력한 중국 오픈소스 모델인 키미 K3가 공개되면서 일부 미국 관리들은 중국 모델에 대한 접근을 제한해야 한다고 주장했고, 투자자와 스타트업 창업자들은 그렇게 할 경우 글로벌 경쟁이 약화될 수 있다고 경고했다. 미국 정부와 개발 기업들의 차이점이 분명히 드러나고 있다.

이러한 격차는 모델 접근성을 넘어 더 넓은 범위로 확장될 수밖에 없다. 미국의 수출 통제는 이미 어떤 국가와 기업이 가장 첨단적인 칩과 컴퓨팅 역량을 확보할 수 있는지를 결정하고 있으며, 워싱턴은 누가 최첨단 AI를 개발할 수 있는지에 대해 상당한 영향력을 행사하고 있다. 한국도 마찬가지로 치열한 경쟁에 뛰어 들고 국가 역량을 투입, 바짝 다가온 AI시대에서 선도적 역할을 하겠다고 나섰다. 동시에 독자 파운데이션 모델(독파모)을 총력으로 개발, 국민 모두가 자유롭게 활용할 수 있게 하겠다고 이재명 정부는 약속했다.

그러기 위해서는 AI 권위주의, AI 패권주의적 인식에서 빨리 벗어날 필요가 있다. 글로벌 사우스를 기본 시장으로 하려면 ‘폐쇄형’ AI 기술에서 탈피해야 한다.

마이크로소프트, 메타, 엔비디아, 오픈AI, 구글을 비롯한 여러 주요 기술 기업들이 워싱턴 정부에 오픈소스 AI를 제한하지 말 것을 촉구하는 서한에 서명했다. 이들 모두 사익(社益) 추구하는 그룹이다. 그러나 이들 역시 폐쇄형은 끝내 인류를 벼랑으로 내몰 수 있음을 인식하고 있을 것이다.

오픈AI의 최대 경쟁사이자 현재 세계 최고의 AI 기업으로 꼽히는 앤트로픽은 주요 연구소 중 유일하게 해당 서한에 서명하지 않았고, 내용에 대해서도 공개적으로 지지 의사를 표명하지 않았다. 앤트로픽은 보다 “신중한 접근 방식”을 취하는 것으로 알려져 있으며, 점점 더 정교해지는 모델에는 더욱 강력한 “안전장치”와 엄격한 통제가 필요하다고 주장한다.

문제는 샘 알트만은 “권력이 지나치게 집중되는 것을 막는 것이 오랫동안 자신이 구상해 온 AI의 핵심 비전”이었다면서도, “자신의 회사는 여전히 자체 모델을 비공개로 유지하고 있어” 이중적인 모습을 보이고 있다.

알트만은 “오랫동안 저는 풍부한 지능이라는 단 하나의 목표에 집중해 왔으며, 이상한 권력 집중이나 새로운 권위주의가 생겨나지 않는 한, 인류의 엄청난 번영이 거기에서 비롯될 것이라는 믿음을 가지고 있다”고 말했다. 그러나 오픈 AI의 행보에는 ‘사익(私益, 社益)’ 추구 이외에 공익적(公益的)인 면모는 아직 나타나지 않고 있다.

한국의 독파모는 정부가 내건 것처럼 공익 우선의 ‘세상을 위한 인공지능“(AI for the World)으로 거듭나게 한 글로벌 선두 국가의 모습을 그려본다.