(박연희 기자) AI를 이용해 여학생들의 성적(Sexual) 이미지를 만들어 낸 에드먼튼의 중학생 2명이 아동 성착취물 관련 혐의로 기소됐다.

앨버타 법 집행 대응팀(ALERT)은 14세 소년 두 명이 동의 없는 촬영과 아동 성착취물 생성 및 소지로 기소됐다고 발표했다. 용의자들이 재학 중인 학교의 이름은 피해자들을 보호하기 위해 공개되지 않는다. 수사관들은 피해자들의 숫자가 10명을 넘을 가능성이 있는 것으로 보고 있다.

ALERT 인터넷 아동 성착취부 스테파니 보쉬 경사는 많은 청소년들이 AI로 성적인 이미지를 만들어 내는 것을 잘못으로 생각하지 않지만, 미성년자라고 하더라도 이 같은 불법 행위에 책임을 지게 된다고 강조했다.

용의자들은 여학생들의 동의 없이 촬영한 사진들을 그들의 소셜 미디어 프로필 사진과 함께 AI 소프트웨어에 업로드한 뒤, 생성된 이미지를 서로 공유한 것으로 알려졌다. 이 사건에 대한 경찰 조사는 한 교사가 다른 학생들로부터 이에 대한 신고를 받으며 시작됐다.

AI 생성 이미지와 관련해 앨버타의 미성년자가 기소된 것은 이번이 두 번째다. 지난해에는 캘거리의 한 고등학생이 지역 학교의 여학생들을 대상으로 앱을 이용해 성적인 이미지를 만들어 내다가 적발돼 기소된 바 있다.

수사관들은 범죄에 이용된 AI 플랫폼이 어떤 것이었는지는 답하지 않았으나, 기존의 사진으로 누드 이미지를 만들어 내는 앱들이 존재한다고 설명했다.

ALERT 앨리슨 처치 경사는 앱이나 플랫폼 자체가 아니라 여기에서 이뤄지는 잘못된 행동을 지적해야 한다고 말했다. 이어 보쉬는 현재 AI 기업을 고발하거나 형사적 책임을 묻는 것은 경찰의 역할 범위를 넘어서는 것이라고 전했다.

한편, 연방정부는 안전한 소셜미디어법(Safe Social Media Act)을 검토 중으로, 이 법안이 통과되면 16세 미만의 소셜미디어 계정 개설이 금지된다. 또한 AI로 인한 위험을 줄이기 위한 규제와 온라인 안전 기준 감독 기관도 설립된다.