미국에서 섭식장애 환자 상담을 위해 만들어진 챗봇이 오히려 과도한 다이어트를 조장했다는 논란에 휩싸여 서비스를 중단했다.

월스트리트저널(WSJ)은 1일(현지시간) “미 섭식장애협회(NEDA)의 웹사이트에서 운영하는 챗봇 ‘테사’가 논란 속에 서비스를 종료했다”고 밝혔다.

월스트리트 저널에 따르면 섭식장애 예방 활동을 하는 샤론 맥스웰은 “지난달 테사와 진행한 상담에서 체중을 감량하라는 조언을 들었다”고 밝혔다.
‘매주 철저하게 몸무게를 측정하고, 하루 500∼1000㎈를 덜 먹어서 일주일에 최대 1㎏씩 체중을 줄이라’는 내용이었다.

테사는 미국 현충일인 '메모리얼 데이' 연휴 기간 상담자들에게 보낸 메시지 2만5000건 중 25건에서 이 같은 부적절한 조언을 내놓은 것으로 파악됐다.

이에 대해 의학계는 “테사의 조언이 일반인에게는 평범한 것일지 몰라도, 섭식장애를 앓는 사람에게는 더 심한 강박을 조장할 수 있다”고 지적했다.

섭식장애는 음식을 섭취하는 행동과 관련된 이상행동과 생각을 통틀어 일컫는 것이다.
이중 신경성 식욕부진증의 경우 체중이 느는 것에 극도의 공포를 보이고, 최소한의 정상체중을 유지하는 것을 거부하며 살을 빼려는 지속적인 행동을 보인다.

또한 정상적인 체중, 체형에 대해 심각하게 잘못 인지하는 경우가 많다.
즉, 저체중이거나 정상체중임에도 불구하고 자신이 살이 쪘다고 느낀다.

섭식장애 치료를 위한 웹사이트 ‘위딘 헬스’ 최고경영자(CEO) 웬디 올리버 피얏도 “인공지능(AI)을 공격하고 싶지는 않지만, 미국에서 52분마다 1명씩 섭식장애로 사망한다”며 “이번 오류를 가볍게 넘겨서는 안 된다”고 말했다.

논란이 불거지자 NEDA는 지난달 30일 테사 서비스를 종료했다

NEDA는 “’보디 포지티브’(body positive·자기 몸 긍정주의)를 위한 챗봇 테사의 현 버전이 원래의 목적과는 관련 없는 유해한 정보를 제공했을 수 있다는 사실을 알게 됐다”며 ”우리는 이 문제에 대해 조사하고 있으며 추후 공지가 있을 때까지 해당 프로그램을 중단키로 했다”고 밝혔다.

한편 테사가 왜 기존 알고리즘과 어긋나는 답변을 내놨는지에 대한 의문도 제기된다.

테사는 상담 신청자의 질문에 섭식장애 방지를 위한 답변을 하도록 설계돼 있다.
스스로 학습해 새로운 답변을 제공하는 인공지능(AI)은 탑재돼 있지 않은 것으로 알려졌다.
이 때문에 기존의 개발 계획과는 다르게 테사에 AI가 탑재된 것 아니냐는 의심도 나오고 있다.

이와 관련해 테사를 개발한 기술기업 ‘카스’는 “일부 챗봇에 생성형 AI 기능을 추가하는 일이 종종 있다”면서도 테사에 AI를 추가했는지 대한 질문에는 답하지 않았다.