MBN골드

뉴스

인도네시아 딥페이크 논란 ‘그록’ 세계최초 차단	2026-01-11 15:20
“성착취물, 인권과 안보에 위협” 그록, 이미지 생성 기능 유료화 인도네시아 정부가 최근 인공지능(AI)을 이용한 딥페이크(이미지 합성 기술)로 성착취물을 생성 유포 논란을 빚은 ‘그록’ 서비스를 세계 최초로 차단했다. 11일(현지시간) 블룸버그통신 등에 따르면 인도네시아 통신디지털부는 전날 성명을 통해 일론 머스크 테슬라 최고경영자(CEO)의 AI 회사인 xAI의 그록 서비스를 일시 중단했다고 밝혔다. 통신디지털부는 “AI 기술을 이용해 생성된 가짜 음란물 위험으로부터 여성과 아동, 그리고 지역사회 전체를 보호하기 위해 그록에 대한 일시적인 금지 조치를 시행한다”고 밝혔다. 무티아 하피드 인도네시아 통신디지털부 장관은 “딥페이크 성착취물은 인권과 존엄성, 국가 안보를 심각하게 침해하는 행위로 간주한다”고 말했다. 세계에서 무슬림 인구가 가장 많은 인도네시아는 음란물로 간주하는 콘텐츠의 온라인 공유를 금지하는 엄격한 규정을 시행하고 있다. 앞서 그록은 여성과 아동의 비키니 수영복 등을 입거나 나체인 이미지 등을 생성한 뒤 이를 유포해 전 세계적으로 논란을 일으켰다. 이 사진들은 이용자들의 동의 없이 생성됐고, 일부 사진은 1~2살 영유아로 보이는 아동 사진도 포함됐다. 이 사진은 당사자 동의 없이 생성됐다. 한 이용자가 이에 대한 문제를 제기하자 그록은 “안전장치의 허점이 확인됐다”며 해당 사진들을 뒤늦게 삭제했다. 논란이 커지자 xAI 측은 그록의 이미지 생성·편집 기능을 프리미엄(유료) 구독자만 이용할 수 있도록 제한하기로 했다. [ⓒ 매일경제 & mk.co.kr, 무단전재 및 재배포 금지]

인도네시아 딥페이크 논란 ‘그록’ 세계최초 차단

2026-01-11 15:20

“성착취물, 인권과 안보에 위협”
그록, 이미지 생성 기능 유료화

인도네시아 정부가 최근 인공지능(AI)을 이용한 딥페이크(이미지 합성 기술)로 성착취물을 생성 유포 논란을 빚은 ‘그록’ 서비스를 세계 최초로 차단했다.
11일(현지시간) 블룸버그통신 등에 따르면 인도네시아 통신디지털부는 전날 성명을 통해 일론 머스크 테슬라 최고경영자(CEO)의 AI 회사인 xAI의 그록 서비스를 일시 중단했다고 밝혔다. 통신디지털부는 “AI 기술을 이용해 생성된 가짜 음란물 위험으로부터 여성과 아동, 그리고 지역사회 전체를 보호하기 위해 그록에 대한 일시적인 금지 조치를 시행한다”고 밝혔다.
무티아 하피드 인도네시아 통신디지털부 장관은 “딥페이크 성착취물은 인권과 존엄성, 국가 안보를 심각하게 침해하는 행위로 간주한다”고 말했다.
세계에서 무슬림 인구가 가장 많은 인도네시아는 음란물로 간주하는 콘텐츠의 온라인 공유를 금지하는 엄격한 규정을 시행하고 있다.
앞서 그록은 여성과 아동의 비키니 수영복 등을 입거나 나체인 이미지 등을 생성한 뒤 이를 유포해 전 세계적으로 논란을 일으켰다. 이 사진들은 이용자들의 동의 없이 생성됐고, 일부 사진은 1~2살 영유아로 보이는 아동 사진도 포함됐다. 이 사진은 당사자 동의 없이 생성됐다.
한 이용자가 이에 대한 문제를 제기하자 그록은 “안전장치의 허점이 확인됐다”며 해당 사진들을 뒤늦게 삭제했다. 논란이 커지자 xAI 측은 그록의 이미지 생성·편집 기능을 프리미엄(유료) 구독자만 이용할 수 있도록 제한하기로 했다.

[ⓒ 매일경제 & mk.co.kr, 무단전재 및 재배포 금지]