미국의 SNS 대기업 메타(META, 옛 페이스북, FB)는 6일 인공지능(AI)에 의해 생성된 이미지를 사용자가 식별할 수 있는 라벨을 향후 몇 달 이내에 도입할 것이라고 발표했다더 리지스터 등이 보도했다.

오는 11월 5일 미국 대통령 선거에서는 생성 AI에 의한 가짜 이미지의 확산이 우려되고 있어 투표에 대한 영향을 막기 위한 목적이 있다.

대상은 FB와 인스타그램, 쓰레드(Threads)에 게시되는 화상으로, AI에 의해 작성된 것을 나타내는 정보가 검출되면 “AI로 생성된”등의 문장이나 마크를 자동적으로 마킹(marking)한다는 것이다.

메타는 이미 자사의 AI 서비스에서 생성된 이미지에는 라벨이 붙는 구조를 도입하고 있다. 타사의 AI가 생성한 이미지도 식별할 수 있도록 구글이나 마이크로소프트, 오픈 AI 등과 협력한다고 한다.

앞으로는 AI가 만들어낸 동영상이나 음성도 식별하는 기술 개발을 추진하고 있다. 메타는 6일 AI에 의한 동영상이나 음성을 라벨 없이 게시한 이용자는 벌칙의 대상이 될 가능성이 있다고 경고했다.

이어 메타는 “현시점에서는 AI가 생성한 콘텐츠를 모두 식별하는 것은 불가능하다”며, 사용자에게 이미지를 올린 계정의 신뢰성 등을 필요에 따라 확인하도록 호소하고 있다.