AI 감정인식에 보내는 경고

AI의 진화는 인간의 감정을 파악하고 이를 상업적 목적으로 활용하는 단계로 확대되고 있다. 얼굴 표정이나 목소리, 걸음걸이 등을 인공지능이 면밀히 분석해 사람의 눈으로는 인식하기 힘든 내면의 감정 상태를 짚어내 다양한 분야에서 활용할 수 있게 하는 것이다. 2018년에 120억 달러였던 이런 감정인식 산업 규모가 2024에는 900억 달러로 확대될 것이라는 전망이다.

하지만 인공지능의 사회적 영향을 연구하는 미국 뉴욕대학교 부설 AI 나우 연구소(AI Now Institute)는 2019년 연례 보고서에서 감정인식 기술의 사용 확산을 우려하며 규제의 필요성을 주장하고 나섰다. 감정인식 기술을 “affect recognition”으로 표현한 AI 나우 연구소는 과학은 이런 기술의 사용을 정당화하지 않으며, 광범위한 채택까지는 아직 시간적 여유가 있기 때문에 최우선적으로 대처해야 한다고 강조했다.

연례 보고서는 인공지능의 감정인식 분야가 “현저히 불안한 기반 위에 있다(built on markedly shaky foundations)”고 지적하면서 그럼에도 불구하고 고용 면접이나 범죄 용의자 심문, 학생들의 수업 역량 등을 파악하는 데 활용되고 있다고 비판한다. 생활에 중요한 영향을 미치거나 특정한 기회를 잡을 수 있는 결정을 할 때 감정인식 기술의 사용을 금지해야 한다는 것이다.

미국의 하이어뷰(Hirevue)가 개발한 감정인식 소프트웨어는 구직 희망자들의 얼굴을 비디오로 분석해 면접 단계로 올라갈 수 있는 사람을 선별한다. 얼굴의 미소나 찡그림 같은 표정의 변화, 눈동자의 미세한 움직임 등으로 사람을 판단한다. 힐튼호텔과 유니레버 등 50개가 넘는 업체가 현재 사용 중이다. 코기토(Cogito)는 콜센터에서 사용하는 프로그램이다. 음성 분석으로 고객의 감정을 파악해 이에 맞는 대처를 하도록 돕는다.

하이어뷰 홈페이지 캡처

차세대 거짓말 탐지기로 선전하는 아이디텍트(EyeDetect)는 미묘한 눈동자의 움직임을 관찰해 범죄 용의자의 거짓말을 파악한다. 눈의 움직임과 깜빡임, 동공의 크기 등을 분석해 거짓말 여부를 가리는데 미국과 영국의 경찰이 사용하고 있다. 브레인코(BrainCo)의 헤드밴드는 학생들의 뇌 활동을 파악해 학습 집중도 등을 관찰한다.

코기토 홈페이지 캡처

사람의 기분과 분위기에 맞춰 대응하는 기업의 감정 마케팅은 날로 확산하고 있다. 아마존의 AI 음성 비서 알렉사(Alexa)는 이용자의 감정 상태에 따라 다른 톤의 목소리 응대할 것이라고 예고했다. KT는 영상 스트리밍 서비스 ‘시즌(Seezn)’에서 AI가 이용자의 얼굴로 감정을 파악해 기분에 맞는 콘텐츠를 추천한다고 밝혔다.

사람의 얼굴 표정은 기쁨과 슬픔, 분노 같은 감정을 자연스레 나타낸다. 인공지능은 이를 보다 세밀하고 효율적으로 가려낼 수 있다. 하지만 무표정에서도 감정을 완벽하게 파악하고, 사람의 마음 속 심리를 속속들이 모두 인식할 수 있는 것은 아니다. 어느 개발 업체도 AI 감정인식에 100%라는 표현은 쓰지 않는다. 데이터에 기반한 AI 알고리즘에 오류와 편견이 스며들 여지가 많기 때문이다.

인간의 감정은 얼굴로만 나타나는 게 아니다. 사회적인 분위기, 문화적 차이, 그리고 특정한 상황을 접하면서 내면에 쌓이게 된다. 기술이 사람의 단순한 기분을 파악하는 것을 넘어 마음 속을 모두 꿰뚫을 수 있다고 자신하는 것은 오만이며 위험하다. AI 감정인식이 중요한 결정이나 판단의 유일한 잣대로 쓰여져서는 안 된다는 이유가 여기에 있다.

인쇄하기