노타(대표 채명수)가 아마존웹서비스(AWS)의 AI 전용 칩 환경에서 기업 고객이 자사 AI 모델의 성능을 극대화할 수 있도록 지원한다고 밝혔다. 노타는 AWS 공인 파트너(Validated Partner) 자격으로, 트레이니움(Trainium)을 포함한 AWS AI 칩 환경에서 고객의 AI 모델이 최고의 성능을 발휘할 수 있도록 경량화 및 튜닝 서비스를 제공한다.

이번 서비스의 핵심은 AI 최적화 전문인력이 부족한 기업 고객을 대상으로, AI 모델을 AWS의 고성능 AI 칩 환경에 맞게 튜닝하여 비용 효율화와 추론 성능 개선을 지원하는 것이다. 노타는 AI 인프라 비용 효율화 및 모델 추론 성능 개선이 필요한 고객의 모델에 맞춘 기술 진단과 튜닝을 수행한다. 이를 통해 고객은 AWS AI 칩이 제공하는 우수한 가격 대비 성능과 에너지 효율을 자사 워크로드에서 온전히 활용할 수 있게 된다.

구체적으로 노타는 대규모 AI 모델의 학습에서 최적의 토큰 경제성을 제공하도록 AWS가 자체 설계한 AI 학습 전용 칩인 AWS 트레이니움과, 고성능 추론을 낮은 비용으로 제공하도록 설계된 AI 추론 전용 칩인 AWS 인퍼런시아(Inferentia) 도입을 검토하는 기업 고객을 대상으로, AI 모델의 경량화부터 하드웨어별 최적 배포까지 전 과정을 지원하는 자사 플랫폼인 넷츠프레소(NetsPresso®) 기반 AI 모델 튜닝 서비스를 출시한다. 넷츠프레소는 AI 모델 크기를 최대 90% 이상 축소하면서도 정확도를 유지할 수 있는 경량화·배포 자동화 플랫폼으로, 다양한 하드웨어 환경에 맞춘 모델 최적화를 단일 워크플로로 제공한다. 서비스는 기술검증(PoC) 및 진단, 모델 포팅 및 경량화, 성능 튜닝 단계로 구성되며, 고객의 AI 모델이 AWS AI 칩 환경에서 최고의 효율로 운영될 수 있도록 지원한다.

AWS 트레이니움과 인퍼런시아는 이미 글로벌 선도 기업들이 활용하고 있는 검증된 AI 칩이다. 앤트로픽(Anthropic), 애플(Apple), 데이터브릭스(Databricks), 우버(Uber), 리코(Ricoh), 데카르트(Decart) 등이 AWS 자체칩을 활용하고 있으며, 2025년 3분기 기준 트레이니움 관련 사업은 분기 대비 150% 성장한 수십억 달러 규모로 확대되었다. 노타의 서비스는 이처럼 강력한 성능이 입증된 AWS AI 칩을 고객이 자사 워크로드에 빠르게 적용할 수 있도록 지원하는 데 초점을 맞추고 있다.

이번 서비스는 노타가 축적한 기술 역량을 바탕으로 한다. 노타는 AWS 트레이니움 및 인퍼런시아 환경에서 대규모 언어 모델 튜닝 경험을 축적해왔다. 일례로 320억 개 파라미터 규모의 고성능 언어 모델에 노타의 경량화 기술을 적용해 모델 크기를 68% 줄이면서도 정확도 손실을 1% 미만으로 유지하는 성과를 달성했다. 또한 고객이 AWS AI 칩의 강력한 성능을 빠르게 활용할 수 있도록, 다양한 모델 아키텍처에 대한 포팅 및 튜닝 경험을 보유하고 있다.

채명수 노타 대표는 "AWS AI 칩은 뛰어난 가격 대비 성능을 제공하며, 노타는 이러한 AWS 칩의 성능을 고객이 자사 모델에서 온전히 활용할 수 있도록 모델 튜닝을 지원한다"며 "AWS AI 칩 기반 인프라 도입을 검토하는 기업 고객에게 실질적인 비용 효율화 성과를 제공하겠다"고 밝혔다.

노타는 모바일 분야의 삼성전자, 반도체 IP 설계의 Arm, 데이터센터용 AI 가속기의 퓨리오사AI, 엣지 디바이스의 모빌린트에 이르기까지 AI 모델 경량화가 요구되는 다양한 하드웨어 환경에서 글로벌 기업들과 협력하며 기술력을 검증해왔다. 이번 서비스 출시는 노타의 AI 모델 튜닝 기술이 클라우드 인프라 영역까지 확대되고 있음을 보여주는 사례로, 노타는 앞으로도 AI 모델이 구동되는 모든 환경에서 모델 경량화 및 튜닝 파트너로서의 입지를 넓혀 나갈 계획이다.