보고서 작성에 생성 AI 활용을 실험 중인 미국 경찰

미국의 오클라호마시 경찰서는 사건 보고서의 초안을 작성하기 위해 AI 챗봇을 실험하는 소수의 경찰서 중 하나입니다.

경찰 매트 길모어와 그의 파트너 거너는 최근 한 시간 동안 용의자 수색을 진행했고, 그들의 모든 말과 짖는 소리가 바디캠에 기록되었습니다. 하지만 이 일상적인 작전 후에 일어난 일은 전혀 평범하지 않았습니다.

길모어는 수색 보고서 작성에 추가로 30~45분을 소비하는 대신 AI 도구를 활용했습니다. 불과 8초 만에 이 인공지능 시스템은 길모어의 바디캠 마이크와 무선 통신에서 수집한 오디오를 바탕으로 종합적인 보고서를 작성했습니다. 길모어는 “내가 쓸 수 있는 것보다 더 나은 보고서였고 100% 정확했다”고 말하며, AI가 그가 잊어버린 세부 사항까지 포착했다고 언급했습니다. 예를 들어, 다른 경찰관이 언급한 용의자들의 도주 차량 색상까지 기록되어 있었습니다.

이러한 상황은 오클라호마시티에만 국한된 것이 아닙니다. 미국 전역의 일부 경찰서에서 사건 보고서 초안 작성을 위해 AI 챗봇을 실험하고 있습니다. ChatGPT와 동일한 기반 기술로 만들어진 이 기술은 테이저를 개발하고 미국 내 바디캠의 주요 공급업체로 알려진 Axon이 판매하고 있으며, 일부 경찰관들은 이를 경찰 업무의 잠재적인 “게임 체인저”로 평가하고 있습니다.

법 집행에서 AI의 가능성

AI 생성 경찰 보고서의 도입은 법 집행 기관이 문서화를 처리하는 방식에 큰 변화를 의미합니다. 지지자들이 주장하는 주요 장점은 시간 효율성입니다. Axon의 창립자이자 CEO인 릭 스미스는 “그들은 경찰 업무를 하고 싶어서 경찰관이 되었지만, 하루의 절반을 데이터 입력에 쓰는 것은 그들이 싫어하는 지루한 일일 뿐입니다.”라고 지적합니다. 보고서 작성 과정을 자동화함으로써 경찰관들은 잠재적으로 적극적인 순찰과 지역사회 참여에 더 많은 시간을 할애할 수 있습니다.

더욱이 인간 경찰관이 간과하거나 잊을 수 있는 세부 사항을 포착하고 포함할 수 있는 AI 도구의 능력은 더욱 포괄적이고 정확한 보고로 이어질 수 있습니다. 이는 작은 세부 사항이 중요할 수 있는 복잡한 사건에서 특히 가치가 있을 것입니다.

우려와 과제

그러나 형사 사법 시스템의 이러한 중요한 측면에 AI를 통합하는 것에 대해 비판과 우려의 목소리도 있습니다. 검사들, 경찰 감시단체, 법학자들은 이 기술이 형사 사법 시스템에서 누가 기소되거나 수감되는지에 영향을 미치는 근본적인 문서를 어떻게 변경할 수 있는지에 대해 의문을 제기하고 있습니다.

주요 우려사항 중 하나는 AI가 법 집행에서 기존의 편견을 영속화하거나 악화시킬 가능성입니다. 지역사회 활동가인 아우렐리우스 프란시스코가 지적했듯이, 사회의 인종적 편견과 선입견이 AI 기술에 내재될 수 있습니다. 보고서 자동화가 “경찰이 지역사회 구성원을 괴롭히고, 감시하고, 폭력을 행사할 수 있는 능력을 증폭시킬” 수 있다는 우려가 있으며, 특히 흑인과 유색인종에게 영향을 미칠 수 있습니다.

또 다른 중요한 문제는 책임성의 문제입니다. 형사 사건을 기소하는 지방 검사들은 경찰관들이 법정에서 목격한 바에 대해 증언해야 할 수 있기 때문에 AI 챗봇이 아닌 경찰관들이 보고서 작성에 책임을 지도록 하고 싶어 합니다. 증인석에 선 경찰관이 “AI가 썼지, 내가 쓴 게 아니야”라고 말하는 시나리오는 검사들이 피하고 싶어 하는 상황입니다.

이 기술이 계속 발전하고 확산됨에 따라 전국의 경찰서에서 더욱 보편화될 가능성이 있습니다. 그러나 광범위한 도입 이전에 앤드류 퍼거슨과 같은 법학자들은 이점과 잠재적 해악에 대한 더 많은 공개 토론을 요구하고 있습니다.

특히 우려되는 점은 AI 챗봇의 기반이 되는 대규모 언어 모델이 정보를 조작하는 경향이 있다는 것입니다. 이는 ‘환각’으로 알려진 문제로, 경찰 보고서에 설득력 있지만 감지하기 어려운 거짓 정보가 포함될 수 있습니다.

법 집행에서의 AI의 미래를 엿볼 수 있는 기회

경찰 보고서 작성에 AI를 사용하는 것은 법 집행 관행의 중대한 변화를 나타냅니다. 효율성과 세부 사항 포착 측면에서 잠재적 이점을 제공하지만, 동시에 책임성, 편견, 그리고 경찰 업무의 근본적 성격에 대한 중요한 질문을 제기합니다.

우리가 이 새로운 영역에 서 있는 지금, 이 기술의 영향에 대해 철저한 공개 토론을 하는 것이 중요합니다. 효율성 추구 과정에서 우리의 형사 사법 시스템의 무결성과 공정성을 훼손하지 않도록 잠재적 이점과 위험을 신중히 균형 잡아야 합니다.

오클라호마시티와 미국 전역의 다른 경찰서에서 진행 중인 이 실험은 단순히 새로운 기술의 테스트가 아닙니다. 이는 법 집행의 가능한 미래를 엿볼 수 있는 기회입니다. 앞으로 나아가면서 이러한 발전을 주의 깊게 모니터링하고, 법 집행 기관, 법률 전문가, 지역사회 지도자, 그리고 일반 대중 간의 지속적인 대화를 촉진하여 경찰 업무에서 AI의 책임 있고 윤리적인 사용을 형성해 나가는 것이 필수적일 것입니다.

인쇄하기