AI가 인간을 심판하는 시대가 되면

판검사나 변호사는 우리 사회에서 신분상승으로 이어지는 사다리로 여겨졌다. 사법시험이나 로스쿨에 합격하면 동네 어귀에 축하 플래카드가 붙었다. 하지만 앞으로는 이런 모습을 보기 어려울 지 모른다. 영국 옥스포드대 연구진은 판사라는 직업이 인공지능에 밀려 20년 안에 사라질 확률이 40%라고 예측했다. AI 변호사 ‘로스(Ross)’는 미국에서 이미 대형 로펌에 취업했다. 법정에서 AI가 인간을 단죄하는 역할도 맡았다. 인공지능이 사람을 심판하는 세상이 오고 있는 것이다.

에릭 루미스(Eric Loomis)는 지난 2013년 총격 사건에 사용된 도난 차량을 운전하고, 경찰관의 지시에 불응한 채 도주한 혐의로 체포되었다. 그에게는 성범죄 전과도 있었다. 징역 6년이 선고되었다. 그는 판결에 불복해 미 위스콘신주 대법원에 항소를 제기했고, 기각되자 사건을 연방대법원으로 가져갔다. 혐의를 인정하면서도 그가 판결에 불복하고 나선 것은 인공지능이 재판을 주도했기 때문이다. ‘콤파스(Compas)’라는 이름의 AI 알고리즘이 재판에 참여해 그를 폭력과 재범의 위험이 높고, 사회 공동체에 위협적인 인물로 판단했다. 인간 판사는 이 판단을 그대로 받아들여 중형을 선고했다. 루미스는 자신이 AI 알고리즘에 적절히 대항할 방법이 없었다며, 법적 절차에 대한 권리가 침해 당했다는 주장을 펼쳤다. 특정 사기업이 만든 소프트웨어로 자신의 재범 위험성을 판단하는 게 과연 타당하느냐는 것이다.

루미스에 대한 ‘콤파스’의 구체적인 판단 자료와 평가 내용은 공개되지 않았다. 나이와 인종, 성별, 인터넷 검색 습관, 과거 행적을 포함한 그에 대한 수많은 자료들이 활용되었을 것으로 추정될 뿐이다. ‘콤파스’를 만든 노스포인트(Northpointe Inc)라는 업체는 영업 비밀을 내세워 알고리즘을 밝힐 수 없다는 입장이다. 평가 항목에 어떤 것들이 있고, 어디에 가중치를 두는지 도무지 알 수 없는 블랙박스 같은 존재다. 이런 깜깜이 인공지능이 미국의 여러 다른 여러 주에서도 암묵적으로 재판에 활용되고 있는 것으로 알려졌지만 공론의 대상이 된 것은 처음 있는 일이다.

법원이 재판에 인공지능을 끌어들인 것은 시간과 비용을 절약할 수 있기 때문이다. 산더미 같은 기록물에 쌓여있는 법관들의 부담을 덜어주고 사람보다 빠르고 정확한 분석을 통해 잘못된 판결의 가능성을 줄여줄 수 있는 장점이 있다. 전관예우나 법조비리로 사법체계가 불신을 받고 있는 한국적 상황에서 AI 판사는 어느 한 쪽으로 기울어지지 않는 공정한 재판에 대한 기대감을 높이기도 한다. 하지만 AI 알고리즘은 은연중에 개발자의 사회적 문화적 편견이나 환경의 지배를 받기 마련이다. 인공지능에 어떤 내용이 들어가느냐에 따라 전혀 다른 결론이 나올 수 있다. AI를 완벽하고 온전한 심판자로 볼 수 없는 이유다. 흑인이 백인보다 범죄 가능성이 더 많다고 생각할 수 있고, 가난하다는 이유로 부자보다 범죄 유혹에 더 노출될 수 있다는 판단을 할 수도 있다.

루미스 사건이 앞으로 어떻게 전개될지 예단하기는 어렵다. 미 연방대법원은 루미스 사건에 대한 심리 여부를 결정하기 위해 연방정부에 의견을 요청한 상태다. 존 로버츠(John Roberts) 대법원장은 이 사건을 염두에 둔 듯, AI 알고리즘이 법정에서 사실 조사나 판결을 돕게 될 것이냐는 질문에 이미 그런 시대가 왔고, 앞으로 어떻게 해야 할지 상당한 부담을 주고 있다고 말했다. 대법원장 입으로 인공지능이 법정으로 몰려오기 시작한 현실을 인정했고, 우회적이긴 하지만 그 부작용에 대한 우려도 함께 표출한 것으로 보인다.

시대를 주도하는 인공지능의 변화와 발전 추이를 거스를 수는 없다. 자료 조사나 분석, 범죄 혐의입증, 효율적인 재판 진행에 인공지능은 유용하게 활용될 수 있다. 하지만 유·무죄를 판단하고, 인신의 구속 여부를 결정하고, 형량을 정하는 역할을 전적으로 AI 판사에게 맡기거나 AI 판단만을 근거로 삼아서는 안 될 일이다. 판결을 돕는 보조 수단에 머물러야 한다. 끔찍한 오판의 가능성도 있지만 아무리 뛰어난 학습능력으로 스스로 익히고 배우며 역량을 키우더라도 인공지능은 사람이 지닌 공감 능력을 결코 따라올 수 없다. 물론 인간 판사도 잘못된 판결을 내릴 때가 있지만 끊임없이 반성하고 고치고 보완하며 실수를 줄여가는 노력이 인공지능에 모든 것을 맡기는 것보다 낫다.

인쇄하기