일본 정부는 인공지능(AI) 안전성 확보를 담당하는 정부 산하 기관인 ‘AI 안전연구소’(AISI=AI Safety Institute)의 체계를 대폭 강화할 계획이라고 요미우리신문이 28일 보도했다.

현재 30명 정도인 인력을 단계적으로 늘려 100명 안팎의 자체 AI 평가 시스템을 구축할 계획이라고 한다. 또, 무단 접근을 가능하게 하는 ‘백도어’의 존재 여부를 확인하는 것을 포함하여 국가 안보 관점에서 AI를 평가하고 분석할 수 있는 프레임워크를 구축할 계획이다.

연구소 측은 신규 공공 채용뿐만 아니라 산업기술종합연구소(AIST=National Institute of Advanced Industrial Science and Technology) 등 국가 연구개발기관에서 연구원을 채용하고, 관련 부처 및 기관에서 파견 인력을 늘려 인력을 확대할 예정이다.

미국과 중국 등 해외에서 개발된 AI의 활용이 확대됨에 따라, AI 안전성 평가를 위한 국내 시스템 구축의 필요성이 커졌다. 2025 회계연도 추가 예산에는 AISI 기능 강화 및 기타 시책에 88억 엔(약 823억 원)이 배정될 예정이다.

AISI는 민간 기업 등을 대상으로 AI 평가 시스템을 개발하고, AI 검증 시설을 구축하며, 국내외 기업이 제공하는 AI 모델에 대한 안전성 조사를 실시할 예정이다. 여기에는 백도어나 이념적 조작으로 이어질 수 있는 기능 등이 포함된다고 한다. 이를 통해 해외에서 제작된 AI의 안전성 문제를 최대한 빨리 파악하는 것이 목표이다.

AISI는 경제산업성 산하 정보기술진흥원(ITPA=Information-technology Promotion Agency) 산하 AI 안전성 평가를 위해 설립됐다. 그러나 현재 인력과 예산이 부족해 AI 안전성 평가에 대한 관점을 제시하는 지침 제공에 그치고 있다.

영국 안전 기관의 사례에서 볼 수 있듯이, AISI는 아직 자체적인 AI 평가 도구를 개발할 역량이 부족하다는 것이다.