방송미디어통신위원회가 성착취물·비동의 성적 이미지 양산 논란에 휩싸인 SNS 플랫폼 엑스의 인공지능(AI) 서비스 그록에 대해 청소년 보호 장치를 마련할 것을 요청했다고 14일 밝혔다.
방미통위는 그록 서비스를 제공하는 엑스 측에 유해 정보로부터 청소년을 보호하기 위한 청소년 접근제한 및 관리 조치 등 보호 계획을 수립해 결과를 회신해 줄 것을 통보했다.



SNS 플랫폼 엑스와 엑스 운영사 xAI 로고. AFP 연합뉴스


현재 엑스는 정보통신망법에 체리마스터pc용다운로드 따라 청소년 보호 책임자를 지정해 방미통위에 통보하고 있다. 매년 청소년 보호 책임자 운영 실태와 관련한 자료를 제출한다.
방미통위는 엑스 측에 한국에서는 당사자 의사에 반해 성적 허위영상물을 제작·유통·소지·시청하는 행위가 형사처벌 대상이라는 점도 전달했다.
일론 머스크 테슬라 최고경영자(CEO)가 소유한 엑스는 지난달 릴게임다운로드 말 그록을 통한 이미지 편집 기능을 추가하면서 성적 허위 이미지(딥페이크)를 손쉽게 만들 수 있다는 비판에 직면했다. 이 기능은 엑스 이용자가 이미지가 포함된 글에 댓글로 그록을 태그해 수정을 요청하면, 원본 당사자의 동의 없이 그록이 이미지를 생성해 올려주는 방식이다. 여성과 아동을 비키니·속옷 차림으로 바꾸는 시도가 속출하자 각국에서 비판 여론이 높아 사이다쿨바다이야기게임 졌다.
[플랫]딥페이크 생성·유포하는 ‘그록’…이미지 53%가 속옷차림
김종철 방미통위원장은 “신기술 도입에 따른 부작용과 역기능에 대해 합리적 규제를 해나갈 계획”이라며 “AI 서비스 제공자를 대상으로 성범죄물을 포함한 불법정보 유통 방지 및 청소년 보호 의무 부과 등을 추진하겠다”고 말했다.
▼ 노도 오션릴게임 현 기자 hyunee@khan.kr
플랫팀 기자 flat@kyunghyang.com