[AI오답노트]①"그거 축구공 아냐, 심판 머리잖아"

휘슬이 울리고 축구경기가 시작됐습니다.
2020년 10월 스코틀랜드에서 열린 스코티시 챔피언십(2부 리그) 인버네스 칼레도니언 시슬과 에어 유나이티드 경기였습니다.
코로나19로 사회적 거리두기로 인해 경기는 무관중으로 진행됐죠.

이날 경기의 또 다른 관전 포인트는 ‘인공지능(AI) 카메라’였습니다.
팬데믹으로 관중 입장이 제한된 데다, 입장 수익 등이 떨어지면서 인버네스 구단 측이 전격적으로 도입했습니다.
AI 기반의 자동 추적 카메라 시스템인데, 더이상 카메라맨이 축구공의 움직임을 따라 카메라를 분주하게 움직일 필요가 없었죠. AI가 공을 실시간으로 인식하면서 카메라의 방향을 돌렸거든요.

‘AI 카메라’는 구단의 새로운 명물이자, 스포츠경영의 혁신 사례로도 언급되기도 했습니다.
구단은 경기 전부터 대대적으로 홍보했죠. 사회적 거리두기 준수는 물론, 인건비 절감까지 노릴 수 있는 묘책이었죠.

팬들은 화면 너머로 경기를 지켜봤습니다.
경기는 여느 때처럼 치열하게 흘러갔습니다.

그런데 가끔, 중계화면이 이상했습니다.
화면 한가운데에 축구공을 두지 않고, 엉뚱한 곳을 자꾸 담았던 것이죠. 역습 상황에서 특히 그랬습니다.
롱패스로 공이 상대 진영 페널티박스로 넘어가는 긴박한 순간, 카메라는 그 상황을 담지 않고 엉뚱한 곳을 보여줬습니다.

시청자들은 이내 깨달았습니다.
카메라가 무엇을 자꾸 보여주려고 하는지. 카메라는 축구공이 아니라, 선심(線審:선에 관한 규칙을 정하는 심판)의 움직임에 관심이 있어 보였습니다.
선심이 달리자, 카메라의 머리가 똑같이 달려갔죠. 이 상황을 이해하게 되자, 시청자들의 짜증과 분노는 이내 웃음으로 바뀌었습니다.

선심은 ‘대머리’였습니다.
AI 카메라가 반들반들한 민머리를 축구공으로 인식했던 것이죠. 선심이 뛰자 AI는 축구공이 움직이는 것으로 판단했고, 카메라가 머리의 움직임을 따라갔습니다.
중계진은 물론, 구단 측도 심각한 문제가 발생했음을 깨달았습니다.
그런데 이제 와서 카메라맨을 출근시킬 수도 없는 노릇이었죠. 그렇다고 중계를 끊을 수도 없는 상황이었습니다.
“시청자 여러분, 죄송합니다.
” 중계진이 연신 사과 멘트를 하는 수밖에 없었죠.

사회관계망서비스(SNS)도 난리가 났습니다.
실시간으로 TV를 보던 축구팬들처럼, SNS의 사람들도 웃음을 감추지 않았습니다.
“다음 경기부터는 대머리 심판은 모자를 쓰게 하라”는 유머 섞인 비판이 나왔죠.

AI의 스코틀랜드 축구 무대 데뷔전은 화려하긴커녕 망신만 산 꼴이었습니다.
AI의 ‘웃픈 실수’는 스포츠 영역에만 국한되지 않습니다.
말 한마디 한마디에 국익이 오가는 국제 정치무대에서도 AI는 불안요소가 되기도 합니다.

2020년 1월, 시진핑 중국 국가주석이 미얀마를 방문했습니다.
중국의 국가 핵심사업인 일대일로(一帶一路:육상·해상 실크로드)를 확장하고, 중국-미얀마 간 관계를 다지는 차원이었죠. 중국 국가주석의 미얀마 방문은 19년 만의 일이었고, 그만큼 지역 내에선 큰 화제였습니다.

그런데 엉뚱한 곳에서 소동이 일었습니다.
몇몇 SNS에서 “시진핑을 미얀마어로 번역하면 ‘똥구덩이’로 나온다”는 글이 올라왔습니다.
일부 이용자들은 직접 번역 결과를 캡처해 올리기도 했습니다.
황당한 일이었지만, 사실이었습니다.
페이스북의 자동번역기는 정말로 시 주석의 이름을 똥구덩이로 번역했던 겁니다.

페이스북이 미국 다음으로 큰 수익을 올리는 시장은 다름 아닌 중국입니다.
대규모 불매운동은 당연하고, 중국 당국의 무시무시한 ‘철퇴’가 내려질 수도 있는 상황이었습니다.
문제가 확산하자 페이스북은 공식 사과 서명을 내야 했습니다.
“우리의 버마어 번역 서비스에서 시 주석의 이름을 영문으로 번역하는 과정에서 문제점이 있었다”면서 “이 문제는 우리 제품과 서비스의 작동 방식을 대표하지 않으며, 이 일이 초래한 모욕에 대해 진심으로 사과한다"며 고개를 숙였습니다.

위 사례는 AI 시스템의 도입과 적용이 예상과 다르게 흘러갈 수 있음을 보여줍니다.
AI 시스템의 개발과 적용에는 수많은 고려사항과 테스트가 필요하다는 것을 시사하죠.

인버네스 구단의 AI 카메라 사건은 특히 AI 이미지 인식 기술의 한계, 학습 데이터의 부족 등 AI가 갖고 있는 본질적 문제를 그대로 노출했다는 평가를 받습니다.
AI 카메라 개발회사는 다양한 무늬의 수천개 축구공 사진을 모아 AI에 입력했습니다.
AI는 지구상에 존재하는 사실상의 모든 축구공 사진을 학습했죠. 그러나 그 누구도, 대머리가 축구공으로 인식될 가능성은 예상치 못했습니다.

페이스북의 사례 역시 학습 데이터의 품질과 다양성이 얼마나 중요한지를 보여줬습니다.
특히 버마어 같은 소수 언어는 데이터가 적습니다.
데이터가 적은 환경에서 AI 서비스 품질을 향상시키는 것은 쉽지 않다는 과제를 다시금 상기시켰죠.

일각의 ‘AI 거품론’에도 불구하고, AI는 농업혁명, 산업혁명, 컴퓨터 혁명에 이은 ‘AI 혁명’의 지위를 굳혀가고 있습니다.
AI 혁명은 이제 막 시작됐습니다.
AI 혁명이 가져올 생산성 혁신의 결과를 고려하면, 아직 걸음마조차 시작 안 했다는 견해도 있습니다.

그러나 혁신의 과정에는 언제나 실패가 함께 해왔습니다.
실패를 다룬다는 것은 AI 혁명의 끝을 예고하는 것이 아닙니다.
오히려 실패야말로 AI로 성공하기 위한 필연적 과정임을 인식하는 절차입니다.
지금의 AI가 거둔 눈부신 성과조차 수많은 시행착오와 좌절로 가득 차 있습니다.
성공의 열쇠는 바로 이러한 실패의 무덤 속에서 찾을 수 있습니다.