본문 음성으로 듣기

중지

멈춤

이어듣기

원문 보기: These high school students are fighting for ethical AI

인코드 저스티스Encode Justice는 인공지능의 윤리적 사용을 주장하는 국제그룹이다. 그들은 거의 다 고등학생들이다. 설립자이자 사장인 스네하 레바너Sneha Revanur는 캘리포니아에 사는 16세의 고등학생이다. 인공지능의 일상적인 사용은 지난 몇 년 동안 급증했지만 대중은 최근에 주목하기 시작했다. 특히 안면 인식 시스템은 정확성과 근본적인 인종차별에 대한 우려로 더 면밀히 조사되고 있다. 학교도 학생의 안전을 주장하면서 캠퍼스 내 감시 시스템의 일부를 안면 인식 시스템으로 사용하고 있다. 이에 대해 인코드 저스티스는 다른 그룹들과 협력하여 공공장소에서의 안면 인식 기술에 맞서 싸우고 있다. 지역 공무원에게 연락을 하려하고 소셜 미디어에 금지에 대한 게시물을 올리는 일들을 한다.

어떻게 시작했을까?
2년전 레바너는 알고리즘을 이용하여 미래의 범죄를 저지를지의 여부를 예측하는 소프트웨어가 흑인을 백인보다 두 배 가까이 가능성이 있다고 분류하는 것을 발견했다. 그 후 그녀는 판사가 사람을 구금할지 석방할지 결정하는 과정을 소프트웨어로 대체하려는 발의안에 반대하여 2020년 여름에 그룹을 만들어 활동을 시작했다. 대부분은 학교를 통해 안 사람들이었고 그들은 행사를 열고 의견을 작성하고 발의안에 반대하는 전화와 문자를 보냈다. 11월 투표에서 이 발의안은 통과되지 않았다. 그녀는 인코드 저스티스가 모든 종류의 알고리즘이 탑재된 기술, 안면 인식 기술과 같은 인공지능과 관련된 기술이 제기하는 윤리적 문제를 더 깊이 조사해야 한다고 결정했다. 이 그룹은 35개 이상의 주와 25개국에 걸쳐 약250명의 자원 봉사자가 있다고 말했다.

어떻게 일할까?
보통은 소셜 미디어를 이용한다. 트위터, 인스타그램, 틱톡으로 다른 청소년들에게 다가가려고 한다. 이 그룹은 이번 여름에 워싱턴 DC의 상원 위원 사무실에 가서 직원들을 만나기도 하고 개발한 프레젠테이션을 이용해 3000명이 넘는 고등학생들과 만났다고 한다. 또한 알고리즈믹 저스티스 리그Algorithmic Justice League는 이 그룹과 인공지능 시스템의 피해 사례를 공유하고 있고 그들은 가장 직접적인 영향을 받는 학생들이 주도하는 운동을 지지한다고 말했다.

번역&요약: 유현영

처음에는 왜 꼭 안면 인식일까 라는 생각을 했지만 학생들 입장에서 생각해보면 안면인식이 가장 접하기 편한 기술이기 때문에 그런 것 같다. 하지만 현대 사회에서 안면인식을 완전히 금지하는 것을 목표로 하는 것보다는 최대한 피해를 줄이고 사람들이 안면인식의 단점을 알고 있도록 교육하는 것이 중요하다고 생각한다.

알고리즘을 이용하여 백인과 흑인 사이의 인공지능의 차별에 대해 알아보고, 직접 단체를 만들고 운영하며, 인공지능의 남용을 막는 활동을 하다니 어린 나이지만 정말 대단한 것 같다. 또 대부분의 학생이 나의 또래인 고등학생이라는 것이 신기하기도 하다. 인공지능의 한계와 위험성을 인지하고 이를 사람들에게 알리는 것은 이 세상을 살아가는 사람으로서 나이와 상관없이 모두에게 매우 중요한 활동이다. 앞으로 많은 사람들이 이러한 문제에 관심을 가졌으면 좋겠고 이 사례처럼 적극적으로 나서면 좋을 것 같다.

나와 비슷한 또래들이 안면 인식 시스템에 대하여 문제의식을 느끼고, 비슷한 의견을 가진 학생끼리 그룹을 조직하여 활동한다는 점이 대단하다고 느껴진다. 학생들이지만 문제 파악이 빠르고, 소셜 미디어에 익숙하며 이러한 매체에 자신의 목소리를 내는 법을 잘 알고 있다. 앞으로 이런 단체들이 많이 나올 것으로 예상한다.

이제 우리 사회에서는 누구나 기술을 쉽고 다양하게 사용할 수 있고, 이는 딥페이크 또한 마찬가지이다. 누구나 딥페이크를 활용해서 자신의 얼굴, 또한 남의 얼굴을 자유롭게 합성하여 사용하고, 유포할 수 있게 되었다. 이에 따라 자신도 모르는 사이 초상권을 침해당하는 사람들은 점차 늘어나고 있고, 이러한 딥페이크의 부정적인 면을 알아차리고 소셜미디어의 특성을 이용해 활동을 시작한 학생들이 대단한 것 같다.

윤리적 AI, 알고리즘 공정성에 대해 고등학생들이 고민하고 실질적인 행동했다는데 놀랐네요. 학생들이 곧 마주칠 현실적 문제라는 생각이 들어서였을까요? 인공지능이 훌륭한 도구이지만, 좋은 목적이더라도 공정하지 못한 방향으로 흘러갈 수 있다는 점을 다시 생각해보게 되네요, 인공지능의 엄청난 활용가능성만큼이나 윤리적 문제에 대한 충분한 준비가 필요하겠습니다.

나에게 인공지능은 남의 집 불구경 같은 느낌입니다. 그리고 지금 행동하는 이 아이들은 자기 발 등의 불임을 잘 알고 있네요. 인간의 편견과 오류를 방대하게 학습하는 인공지능이라니 그 능력치를 알기에 더 무섭습니다. 하지만 늘 그렇듯 사람들은 문제해결을 위해 노력합니다. 노력을 위해서는 문제의식이 먼저겠지요. 호불호를 떠나 계속 알아가야 하는 것. 개인적으로도 숙제입니다. 좀 더 알고 동참할 수 있는 부분은 같이 움직일 수 있는 에너지를 갖고 싶네요.