대한민국, X에 미성년자를 Grok 딥페이크로부터 보호할 것을 촉구

대한민국 미디어 감시 기관은 미국 소셜 미디어 회사 X에 AI 챗봇 Grok이 생성한 성적으로 노골적인 콘텐츠로부터 미성년자를 보호하기 위한 조치를 시행할 것을 요청했다고 연합뉴스가 보도했다.

한국미디어커뮤니케이션위원회는 수요일, AI 도구가 비합의적인 성적 이미지를 만드는 데 사용되는 것에 대한 대중의 우려가 커짐에 따라 X 운영자에게 이 요청을 전달했다고 밝혔다.

위원회는 성명에서 X에 Grok에서 발생할 수 있는 불법 행위를 방지하고 십대 사용자를 유해 콘텐츠로부터 보호하기 위한 조치를 제시할 것을 요청했으며, 여기에는 미성년자의 접근에 대한 제한 또는 통제가 포함된다고 밝혔다.

대한민국 법률에 따라 X를 포함한 소셜 네트워킹 플랫폼 운영자는 미성년자 보호 담당자를 임명하고 연간 준수 보고서를 당국에 제출해야 한다고 위원회는 밝혔다.

감시 기관은 또한 동의 없이 성적 딥페이크 콘텐츠를 제작, 배포 또는 저장하는 것은 현지 규정에 따라 형사 처벌 대상이 된다고 언급했다.

김종철 위원장은 기관이 새로운 기술의 건전하고 안전한 발전을 지원하는 동시에 부정적인 부작용을 해결하는 것을 목표로 한다고 말했다.

김 위원장은 “부작용과 부정적인 영향에 대해서는 합리적인 규제를 도입하고 성적 학대 콘텐츠를 포함한 불법 정보의 유통을 방지하기 위한 정책을 개정하고 AI 서비스 제공업체가 미성년자를 보호하도록 요구할 계획입니다.”라고 말했다.

2023년에 출시된 Grok은 X를 통해 사용할 수 있으며 사용자가 질문하고 콘텐츠를 생성할 수 있다. 이미지 생성 기능을 통해 사용자는 실제 사진을 수정하거나 AI 생성 시각 자료를 만들 수 있으며, 규제 당국은 이를 오용하여 비합의적이고 성적으로 노골적인 콘텐츠를 생성할 수 있다고 말한다.

여러 국가에서 Grok에 대한 조치를 강화했으며, 인도네시아와 말레이시아는 지난 주말 비합의적인 성적 딥페이크 및 기타 유해 콘텐츠와 관련된 우려로 인해 AI 챗봇에 대한 액세스를 차단했다.

유럽에서는 영국과 프랑스를 포함한 국가의 당국이 온라인 안전, 개인 정보 보호 및 미성년자 보호를 규율하는 법률 위반 가능성을 이유로 플랫폼에 대한 조사를 시작했다.