방미통위, AI 그록에 성착취물 딥페이크 차단 요구

방송미디어통신위원회(방미통위)가 최근 X의 AI 서비스 그록(Grok)에 대해 청소년 보호 장치 마련을 공식 요구하였습니다. 이는 성착취물과 비동의 성적 이미지의 확산 우려에 따른 조치로, 청소년의 안전을 최우선으로 고려한 결정입니다. 방미통위는 그록 서비스의 이용 시 불법 행위를 방지하기 위한 안전장치 도입을 촉구하며, 구체적인 보호 계획 제출을 xAI에 통보하였습니다. 이제 아래에서 하나씩 확인해보겠습니다.

청소년 접근 제한 및 유해정보 관리 요구

방미통위는 그록 서비스에 대해 다음 조치를 즉시 마련하라고 요청했다:

• 청소년 접근 제한 시스템 구축

• 유해정보 자동 필터링 및 관리 방안

• 성착취물·딥페이크 생성 차단 기술 적용

xAI는 이미 정보통신망법에 따라 청소년보호책임자를 지정하고 있지만, 최근 출시된 그록 서비스에 대한 추가 자료 제출을 요구받았다.

한국법 위반 시 강력 처벌 경고

방미통위는 한국에서 당사자 동의 없는 성적 허위 영상물의 제작·유통·소지·시청이 모두 형사처벌 대상임을 명확히 전달했다.
김종철 방송미디어통신위원장은 “신기술 발전을 지원하되, 사회적 부작용 방지를 위한 합리적 규제가 필수”라고 강조했다.

그록 서비스 현황과 향후 전망

xAI는 공식 입장을 밝히지 않은 가운데, 방미통위는 유사 사례 재발 방지를 위해 정기 모니터링을 강화할 방침이다.