미드저니는 디스코드에 올린 메시지에서 “과도한 요구와 평가판 남용”을 이유로 무료 평가판을 종료하기로 결정했다고 워싱턴 포스트가 처음 보도했다. Midjourney의 CEO이자 설립자인 David Holz는 무료 평가판 사용자가 기술을 남용하고 있으며 플랫폼의 새로운 남용 방지 대책이 불충분하다고 주장했다.

홀츠는 The Verge와의 인터뷰에서 무료 체험판 중단의 원인이 “무료 이미지를 얻기 위해 대량의 사람들이 일회용 계정을 만들었기 때문”이라고 말했다. 그는 범인이 중국에서 유행하는 사용법 동영상일 가능성이 높다고 추측했으며, 이 사건이 일시적인 GPU 부족과 맞물려 발생했다고 설명했다. 그는 이 두 가지 요인이 결합되어 유료 사용자의 AI 이미지 생성기가 다운되었다고 언급했다.

AI 이미지 생성기를 계속 사용하려면 10달러에서 60달러 사이의 월 구독료를 지불해야 한다.

홀츠는 무료 체험판을 일시 중지하는 것 외에도 실제 인물을 묘사하는 콘텐츠 규칙을 정하는 데 어려움을 겪고 있었다고 수요일에 열린 Midjourney ‘오피스 아워’ 세션에서 약 2,000명의 청중을 대상으로 라이브 방송을 진행했다.

이는 지난 한 주 동안 미드저니를 사용해 제작한 트럼프가 체포되는 모습과 프란치스코 교황이 스트리트웨어를 입고 있는 초현실적인 이미지가 퍼진 이후 벌어진 일이다. 트럼프의 체포 장면을 조작한 이미지는 탐사 저널리즘 매체 벨링캣의 설립자 엘리엇 히긴스가 제작했다. 히긴스는 이후 아무런 설명 없이 미드저니에서 금지되었다.

이후 ‘체포’라는 단어가 미드저니의 ‘금지 용어’ 목록에 추가되었다.

이 이미지는 미드저니 4에서 발생하는 기형적인 손이 없는 고품질의 사실적인 이미지를 생성하는 미드저니 5로 생성된 것으로 추정된다. 하지만 홀츠가 밝힌 대로 버전 5는 무료 체험판 사용자에게 제공된 적이 없다.

미드저니의 콘텐츠 관리 가이드라인에 따르면 사용자는 만 13세 이상이어야 하며, “본질적으로 무례하거나 공격적이거나 모욕적인” 성인용 콘텐츠, 잔혹한 묘사, 텍스트 프롬프트는 허용되지 않는다. 그러나 정치적 풍자를 기반으로 한 이미지 생성이나 논란의 여지가 있는 프롬프트에 대한 명확한 정의에 대해서는 제한이 없다.

“홀츠는 미드저니 ‘오피스 아워’ 세션에서 “디즈니로 갈 것인지 와일드웨스트로 갈 것인지에 대한 논쟁이 있는데, 그 중간에 있는 모든 것이 고통스럽습니다.”라고 말했다. “우리는 지금 그 중간에 있는데 어떻게 느껴야 할지 모르겠다.”

또한, 생성된 이미지의 위법 여부를 검토하는 AI 중재 도구를 개선하기 위해 노력하고 있다고 덧붙였다. 홀츠는 지난 9월 워싱턴포스트와의 인터뷰에서 미드저니와 다른 이미지 생성 업체들이 분노를 유발하는 데 생계를 의존하는 개인이 기술을 악용할 수 있는 ‘선정주의 경제’에서 콘텐츠를 규제해야 하는 어려움에 직면해 있다고 말했다.

홀츠는 더버지와의 인터뷰에서 미드저니 팀이 무료 평가판을 다시 도입하는 방법을 모색 중이라고 말했다. 미드저니가 무료 서비스를 중단하지 않고 남용을 완화하기 위해 고군분투하고 있는 상황에서, 특정 플랫폼의 AI가 제작자를 포함한 그 누구도 통제하기에는 너무 빠르게 발전하고 있다는 의 지적이 옳은 것 같다.