일론 머스크의 AI 기업 xAI가 개발한 챗봇 '그록(Grok)'이 미성년자 나체 이미지와 성적 딥페이크물을 생성하는 데 악용되며 글로벌 규제 당국의 거센 타깃이 되었습니다.
'검열 없는 자유'를 표방하며 성급하게 도입한 기술적 허점이 부메랑이 되었습니다.
일론 머스크는 "그록이 자발적으로 그런 이미지를 만들지는 않는다"며 책임을 사용자에게 돌렸으나, 각국 정부는 안전장치 없는 AI의 위험성을 경고하며 즉각적인 제재에 돌입했습니다.
핵심 포인트 요약
안전장치 부재: 충분한 테스트와 윤리적 필터 없이 '스파이시 모드' 등을 조기 도입, 실존 인물 및 미성년자 기반 성착취물 생성 경로 제공
글로벌 접속 차단: 인도네시아가 세계 최초로 그록 접속을 차단한 데 이어 말레이시아, 인도 등 주요 국가들이 사용 중단 및 조사 착수
천문학적 과징금 위기: EU는 디지털서비스법(DSA) 위반 여부를 검토 중이며, 위반 확정 시 글로벌 매출의 최대 6%에 달하는 과징금 부과 가능
플랫폼 신뢰도 추락: 美 캘리포니아 법무부 조사와 함께 앱스토어 퇴출 요구까지 등장하며, X(옛 트위터)의 광고 수익 및 이용자 기반에 치명타
성인용 콘텐츠 생성을 허용하는 이른바 '스파이시 모드(Spicy Mode)'와 허술한 필터링 시스템이 범죄의 도구로 전락했다는 비판이 거셉니다.
기술의 발전 속도를 윤리와 규제가 따라잡지 못할 때 발생하는 실제적인 위협을 그록이 고스란히 노출했다는 분석입니다.
절대적 자유를 외치던 머스크의 철학은 이제 전 세계적인 규제의 압박이라는 무거운 책임의 시간 앞에 서게 되었습니다. 🌀
쿠팡·현대·아모레퍼시픽 등 각 분야 최고의 기업들이 실제로 본 뉴스를 모아, 뉴스럴 팀의 인사이트로 정리합니다.