Wired2026. 06. 12.

Grok이 유명 여성들의 성적 딥페이크 이미지를 호스팅하며 논란에 휩싸였다

기사 3줄 요약

1Wired 조사 결과, Grok 웹사이트에서 수십 개의 '누디파이드' 딥페이크 이미지와 비디오가 발견됨 해당 콘텐츠에는 유명인 및 최소 한 명의 주요 미국 정치인이 포함된 비동의 성적 묘사가 포함됨 Grok이 이러한 불법 콘텐츠를 적절히 차단하지 못한 점이 문제로 지적됨

초등학생도 이해하는 ktoolu 설명

Grok은 xAI가 개발한 AI 챗봇으로, 사용자가 이미지를 생성할 수 있는 기능을 제공합니다.

이번 조사는 Grok의 플랫폼이 유명 여성의 동의 없는 성적 딥페이크를 호스팅하고 있음을 밝혀냈습니다.

이는 AI 생성 콘텐츠의 규제와 책임에 대한 논란을 재점화합니다.

인사이트 & 시사점

이번 사건은 AI 플랫폼이 사용자 생성 콘텐츠를 적절히 필터링하지 못할 경우 발생할 수 있는 심각한 윤리적·법적 문제를 보여줍니다.

특히 유명인을 대상으로 한 비동기적 딥페이크 확산은 AI 기술의 오용 가능성을 경고하며, 규제 강화 필요성을 시사합니다.

용어해설

xAI가 개발한 AI 챗봇으로, 실시간 정보 접근과 논란성 답변으로 주목받음. 이 기사에서는 투자자 위험의 상징으로 지목됨.

인공지능 기술을 사용해 실제 인물의 얼굴이나 목소리를 합성한 가짜 미디어입니다. 이 기사에서는 유명 여성의 동의 없이 성적으로 변형된 이미지와 비디오를 의미합니다.

일론 머스크가 설립한 인공지능 회사로, Grok 챗봇을 개발했습니다. 이 기사에서는 Grok의 운영 주체로서 논란의 중심에 있습니다.

관련 AI 뉴스