생성 AI 콘텐츠의 범람과 플랫폼의 도전

인터넷이 AI의 쓰레기장이 되고 있다. ‘슬롭^Slop이라는 새로운 용어가 등장한 것도 이러한 맥락이다. 본래 음식물 쓰레기를 의미하던 이 단어는 이제 쓸모없는 AI 생성 콘텐츠를 지칭하는 신조어가 되었다. 특히 콘텐츠 플랫폼 미디엄^Medium의 사례는 이 문제의 심각성을 여실히 보여준다.

와이어드가 AI 탐지 스타트업 팬그램 랩스^{Pangram Labs}에 의뢰한 분석 결과는 충격적이다. 미디엄의 27만 개가 넘는 최근 게시물 중 절반 가까이가 AI가 생성했을 것으로 추정된다. 일반 뉴스 사이트의 AI 생성 비율이 7% 수준인 것을 감안하면, 이는 놀라운 수치다. 또 다른 AI 탐지 기업 오리지널리티 AI^{Originality AI}의 분석도 이를 뒷받침한다. 2018년 3.4%에 불과하던 AI 생성 추정 비율이 2024년에는 40%를 넘어섰다.

특히 주목할 만한 것은 AI 생성 콘텐츠의 분야별 분포다. NFT 관련 글의 경우 무려 78%가 AI 생성으로 의심된다. 웹3, 이더리움, AI, 심지어 반려동물(Pets) 관련 콘텐츠에서도 AI의 흔적이 두드러진다. 이는 트렌디한 주제를 노린 AI의 무분별한 콘텐츠 생산을 보여주는 단적인 예다.

미디엄의 CEO 토니 스터블바인^{Tony Stubblebine}은 이 상황을 심각하게 인식하고 있다. 그는 AI 콘텐츠에 “강력히 반대”한다는 입장을 표명하면서도, AI 생성 콘텐츠가 연초 대비 10배 증가했다는 사실을 인정했다. 다만 그는 AI 탐지 도구의 정확성에 의문을 제기하며, 문제의 심각성을 다소 달리 해석한다.

미디엄의 대응은 ‘인간 중심’이라는 키워드로 요약된다. 9,000명에 달하는 편집자 네트워크를 운영하고, 콘텐츠 “부스트” 시스템을 도입하는 등 인간의 판단을 최우선으로 한다. 정책적으로도 AI 글쓰기의 파트너 프로그램 유료화를 중단하고, 제휴 링크 홍보를 제한하는 등 강경한 입장을 취하고 있다.

그러나 이러한 노력에도 불구하고 현실적 한계는 분명히 존재한다. AI 탐지의 기술적 한계와 스팸 필터링의 맹점은 여전히 해결해야 할 과제다. 더욱 우려되는 것은 일부 AI 생성 콘텐츠가 13,500개가 넘는 “박수”를 받는 등 높은 인기를 얻고 있다는 점이다.

이는 소위 ‘죽은 인터넷 이론^{Dead Internet Theory}이 현실화되는 것은 아닌지 우려를 자아낸다. 한때 음모론에 불과했던 이 이론은 이제 현실이 되어가는 듯하다. AI 생성 콘텐츠의 급증으로 인해 인간의 창작물과 AI의 결과물을 구분하는 것이 점점 더 어려워지고 있다.

결국 핵심은 AI 생성 콘텐츠를 완전히 배제하는 것이 아닌, 어떻게 관리하고 인간의 창작물과 조화롭게 공존할 수 있는가에 있다. 미디엄의 사례는 이러한 도전과 대응의 현주소를 보여주는 동시에, 앞으로 우리가 풀어야 할 숙제가 무엇인지를 시사한다. 콘텐츠 품질 관리의 새로운 패러다임 구축, AI 탐지 기술의 개선과 표준화, 인간 창작자 보호를 위한 제도적 장치 마련, 플랫폼의 책임과 역할 재정립 등이 그것이다.

인터넷 공간에서 AI와의 공존은 이제 피할 수 없는 현실이다. 우리에게 필요한 것은 이 새로운 도전을 현명하게 관리하고, 인간의 창의성이 여전히 빛날 수 있는 생태계를 만드는 것이다. 미디엄의 도전은 여전히 진행 중이다.

인쇄하기