인공지능(AI)으로 살인을 예측하는 프로그램이 영국에서 비밀리에 개발 중이었다는 보도가 나왔다.
영국 일간지 '가디언'은 지난 8일(현지시간) 리시 수낙 전 영국 총리(2022~2024년) 재임 시절 정부에서 '잠재적 범죄자'를 파악할 수 있는 알고리즘 개발이 의뢰됐다고 보도했다.
이 정보는 영국 소재 비영리단체 '스테이트워치(Statewatch)'의 공개정보청구를 통해 드러났다.
원래는 '살인 예측 프로젝트'였다가 '위험 평가 개선을 위한 데이터 공유'로 명칭이 바뀐 이 연구 프로젝트는 잠재적 범죄자를 파악하기 위해 범죄 피해자를 포함한 수천명의 개인 정보를 분석한 것으로 전해졌다.
영국 정부는 해당 프로젝트에 대해 "보호관찰 대상자가 심각한 범죄를 저지를 가능성을 더 잘 이해하는 것을 목표로 한 것"이라고 취지를 설명했으나, 스테이트워치 측은 "디스토피아적"이라고 비판했다.
또 스테이트워치는 "범죄자뿐만 아니라 무고한 사람이나 범죄 피해자의 정보도 동원될 수 있는 점"에 대해 우려를 표했다.
범죄 피해자의 정신건강이나 가정폭력, 장애 등 민감한 개인정보가 분석 데이터에 포함돼 인권 침해 우려가 제기된다는 것이다.
소피아 라이얼 스테이트워치 연구원은 "범죄를 예측하는 알고리즘 시스템에 본질적인 결함이 있다는 건 수많은 연구를 통해 반복해서 입증된 바 있다"라며 "이 프로그램은 형사 사법 시스템에 내재한 구조적 차별을 강화하고 확대할 수 있으며, 인종적 소수자와 저소득층에 대한 편견을 낳을 수 있다"고 주장했다.
영국 정부는 해당 프로젝트가 연구용으로만 진행됐다고 해명했다.
가디언에 따르면 영국 법무부는 성명을 내고 "이 프로젝트는 연구 목적이며, 유죄 판결을 받은 사람들에 대한 교정 기관과 경찰의 기존 데이터를 활용한 것"이라고 설명했다.
이어 "보호관찰 중인 사람이 심각한 폭력 범죄를 저지를 위험성을 더 잘 파악하기 위해 설계된 것"이라고 덧붙였다.
임주형 기자 skepped@asiae.co.kr
<ⓒ투자가를 위한 경제콘텐츠 플랫폼, 아시아경제 무단전재 배포금지>
이메일
카카오톡
라인
밴드
X(트위터)
페이스북
