극단의 확산, 유투브의 AI 추천 시스템

막말과 극우 이념을 전파하는 자이르 보우소나루(Jair Bolsonaro)는 아웃사이더 정치인이었다. 2018년 10월 그가 브라질 대통령에 당선되자 트럼프의 등장만큼이나 전세계가 놀라움을 금치 못했다. 부패 스캔들과 경제난을 겪고 있기는 했지만 브라질 민심이 왜 이런 극단주의자를 선택했는지 뉴욕타임즈가 진단했다. 전문가들의 현장 조사 및 분석 결과 유투브라는 결론이 내려졌다.

일찍 정치에 입문했지만 자이르 보우소나루는 결코 대중적이지 않았고 인기 있는 인물도 아니었다. 당적을 10여 차례나 바꿀 만큼 지지 기반도 허약했다. 여성과 인종을 차별하고, 동성애자들을 혐오하고, 음모론을 펼치고, 과거 군부독재를 옹호하는 그의 이미지는 한낱 극우주의자의에 지나지 않았다. 하지만 그는 일찍부터 동영상을 활용한 유투브 얼리 어답터였다. 그의 유투브 구독자는 현재 250만명이 넘는다.

자이르 보우소나루의 유투브 계정 캡처

브라질은 미국 다음으로 큰 유투브 시장이다. 유투브는 브라질 국민들의 일상 생활이 되었고, 그 영향력은 신문과 TV, 다른 소셜 미디어를 포함한 모든 매체를 압도하는 상황이다. 원하는 영상을 찾으면 끊임없이 새로운 영상으로 연결하며 눈을 떼지 못하게 만드는 유투브의 새로운 AI 시스템은 이 비주류 인물에게 날개를 달아주었다. 유투브가 극우 이념의 전도사가 되어 대통령의 길을 닦아주었다는 것이다.

전문가들이 브라질에서 수천 개의 유투브 영상과 그 밑에 붙은 댓글들을 집중 분석한 결과 우익의 이념을 담은 영상이 다른 그 어떤 것들보다 훨씬 더 많이 훨씬 더 빠르게 보여지고 있는 것을 확인했다. 정치적 지향성이 한쪽으로 기울 수밖에 없다는 것을 의미한다. 유투브의 AI 알고리즘은 자이르 보우소나루의 이미지를 긍정적으로 바꾸고, 그가 주장하는 음모론도 호응을 얻게 만들었다. 유투브의 이런 흐름은 일반 여론조사 결과와는 전혀 딴판이었다.

하버드대 버크만 클라인 센터(Berkman Klein Center) 연구팀은 브라질에 있는 서버를 기반으로 인기 있는 채널이나 단어를 검색해 유투브가 추천하는 영상을 따라 들어가보는 실험을 했다. 수천 번 반복하며 영상들이 어떻게 이어지는지 조사했더니 정치적인 콘텐츠는 물론 심지어 오락물조차도 결국은 극우적인 시각과 음모론이 판치는 영상들로 연결된다는 사실을 확인했다.

뉴욕타임즈는 브라질의 한 청년을 인터뷰했다. 15살의 도밍게즈(Dominguez)는 기타를 배우기 위해 유투브를 찾았고 여기서 한 아마추어 기타리스트의 영상을 만나게 된다. 이 기타리스트는 음악과 게임은 물론 극우적인 내용까지 많은 영상을 게시하고 있었다. 도밍게즈는 이 사람의 영상을 통해 자연스레 인종차별과 음모론에 접하고 점차 여기에 빠지게 되었다. 사용자 경험에 따라 연결하고 추천하는 시스템은 자이르 보오소나루의 유투브 계정으로 이어졌고, 그의 열렬한 지지자가 되었다. 2년이 지난 지금 자이르 보오소나루는 대통령이 되었고, 17살 도밍게즈는 극우로 세상을 변화시키기 원한다.

뉴욕타임즈의 관련 기사 캡처

유투브는 뉴욕타임즈의 이런 주장에 동의하지 않으며 내부 데이터와 모순된다는 입장을 나타냈다.하지만 그 데이터를 보여달라는 요구와 조사 결과가 맞는지 확인하기 위한 통계자료 요청은 거절했다. 유투브의 비슷하고 반복적인 영상 추천 시스템은 브라질 사회 전반에 영향을 미치고 있다. 유투브로 극우에 빠진 학생들이 과거 군부독재 역사를 가르치는 교사를 공산주의라고 비난하는가 하면 일부 지역에서는 유투브의 음모론을 맹신해 신생아의 소두증을 유발하는 지카 바이러스(Zika virus)의 백신을 거부하는 사태까지 벌어졌다.

가짜뉴스와 그릇된 정보, 극단의 시각, 음모론, 분노와 혐오는 온라인 세상에서 파생되는 부정적인 측면이다. 자극적인 내용일수록 눈길을 끌고, 또 이를 악용한다. 이게 일정 수위를 넘어서면 사회는 극도의 혼란에 빠질 수밖에 없다. 콘텐츠에 대한 취사선택의 분별력을 키우는 미디어 리터러시(media literacy) 역량이 갈수록 절실해지는 이유다.

요즘 기업의 마케팅 전략은 취향저격이다. 소비자들이 원하는 것을 정확히 짚어내 이를 마케팅으로 연결하는 방식이다. 인터넷에서 AI 추천 시스템은 일종의 취향저격이다. 사용자의 취향을 파악해 콘텐츠를 알아서 골라주고 비슷한 것들을 계속해서 연결해줌으로써 거대 IT 기업의 수익을 극대화 하는 수단이다. 넷플릭스가 성공한 이유다. 문제는 AI 추천 시스템이 온라인 세상의 또 다른 도전이 되고 있다는 것이다. 끊임없이 이어지는 유투브의 추천 영상은 분별력을 잠재우고, 판단력을 흐리게 하고, 주체적인 결정권을 포기하게 만들 수 있다. 극단적 이념의 확산과 더불어.

인쇄하기