본문 음성으로 듣기

중지

멈춤

이어듣기

질로우(Zillow)는 금융 IT 서비스를 결합한 미국의 온라인 부동산 플랫폼 기업이다. 부동산업계의 아마존이라 불린다. 마이크로소프트 임원, 온라인 여행사 익스피디어(Expedia) 설립자 등이 2006년에 창업해 수직 성장을 거듭하며 업계 1위가 되었다. 그런데 이 회사가 ‘질로우 오퍼스(Zillow Offers)’라는 사업을 중단하고, 전체 직원의 25%인 2,000명을 감원하기로 했다.

질로우는 집값을 계산해주는 ‘제스티메이트(Zestimate)’라는 자체 개발 AI 알고리즘을 운용했다. 소비자가 자신의 집 주소를 치면 다양한 변수를 고려해 집의 가치를 알 수 있게 했다. ‘질로우 오퍼스’는 알고리즘을 활용해 집을 싸게 사서 리모델링 한 뒤 비싼 값으로 되팔아 시세차익을 남기는 사업이었다. 미국 전역에 1억채 이상의 집에 대한 데이터를 확보했다.

질로우 홈페이지 캡처

질로우의 사업 실패 배경에는 아이러니하게도 성공 요인으로 꼽힌 알고리즘이 있었다. 온라인에서의 알고리즘 오류율이 1.9%, 오프라인 주택시장에서는 6.9%나 되었다. 헌 집을 싸게 사야 하는 데 알고리즘은 오히려 비싼 값에 매입하도록 유도했다. 팔리지 않는 재고 매물이 쌓이고, 회사는 큰 손실을 봤다.

알고리즘 만능 시대다. 인공지능, 데이터와 함께 알고리즘은 개인과 기업, 사업과 투자, 교육과 미디어, 선거와 홍보 등 거의 모든 영역에 손길을 뻗치고 있다. 알고리즘은 맞춤과 효율성의 마술을 부리고, 우리는 그 매직에 빠져 살고 있다. 하지만 이게 누구에게나 이익을 가져오는 마술일까? 알고리즘은 옳은 방향으로 선하게만 작용하는 것일까?

한국의 뉴스 시장을 점령한 네이버와 카카오는 늘 시비의 대상이었다. 정치적으로 민감한 기사가 논란이 될 때마다 사람이 아닌 편견 없는 AI 알고리즘의 편집이라고 방어했다. 카카오가 최근 알고리즘 추천 방식의 뉴스 서비스를 종료하겠다고 선언했다. 네이버도 뒤를 이을 준비를 하고 있다. 공정을 내세웠던 AI 알고리즘이 포털 뉴스 시장에서 퇴출 수순을 밟고 있다.

페이스북이 가짜뉴스로 사회 분열을 조장하고, 자회사 인스타그램이 청소년의 정신건강을 해친다는 사실을 내부 보고서로 이미 알고 있었다는 폭로가 일파만파로 번졌다. 미 의회가 청문회를 열었고, 디지털의 흐름을 주도하며 거칠 게 없었던 거대 IT 기업들에 대한 비판의 목소리가 높아졌다. 사태의 핵심은 무엇일까? 밑바탕에 깔린 알고리즘이다.

구글, 페이스북에서 이름을 바꾼 메타 같은 거대 온라인 플랫폼 기업을 겨냥해 ‘필터 버블 투명성 법안(Filter Bubble Transparency Act)’이라는 초당적 법안이 미 하원에서 발의되었다. 사용자의 데이터에 의해 작동되는 알고리즘으로 조작되지 않고 인터넷 플랫폼에 참여할 수 있는 선택권이 소비자에게 부여되어야 한다는 게 법안의 요지다.

만능처럼 보이지만 알고리즘에도 허점이 있기 마련이다. 데이터의 부족과 오류, 특정한 목적을 위한 인간의 개입, 운용의 부적절성, 프로그램의 불투명성이 그 한계를 감추고 있을 때가 많다. 과신이나 맹목에서 벗어나야 하는 이유다. 물론 알고리즘의 마술을 마냥 부정적으로 만 볼 일은 아니다. 실패와 문제를 교훈 삼아 더욱 정교하게 발전해 나갈 것이다. 광범위하게 새로운 영역을 개척하며 일상 생활에 더욱 밀착해질 것이다.

알고리즘의 투명성, 검증 가능성에 대한 요구는 시대적 흐름이다. 더불어 탈알고리즘, 알고리즘에서 자유로워지고 싶어하는 알고리즘 독립 요구도 높아질 것 같다. 이용자가 알고리즘에서 벗어날 수 있게 선택하는 장치가 마련될 가능성이 높다. 여기에 사용자 인식의 향상, 디지털 문해력에 더해 알고리즘 리터러시가 필요할 지 모른다.