한 달 전, 챗GPT 개발사 오픈AI가 미국의 민간 방위산업업체 안두릴과 파트너십을 맺는다는 소식은 인공지능(AI) 업계에서 적잖은 논란이었다.
오픈AI가 AI 모델을 제공해 안두릴의 대(對)무인항공기시스템(CUAS)을 개선하기로 한 것. 블룸버그통신 등 외신은 앞다퉈 오픈AI가 민간 방위산업에 뛰어든 것이라는 분석을 내놓았다.
문제는 오픈AI가 2015년 안전한 AI 개발을 목표로 창업한 회사라는 점이다.
오픈AI는 자사 AI 기술이 여전히 무기 개발이나 인명에 해를 끼치는 데 사용하지 않을 것이라고 강조하고 있지만, 빅테크(대형 정보기술 기업) 간 AI 기술 경쟁이 한층 심화하면서 이 같은 원칙이 훼손되지는 않을지 우려가 나오고 있다.

한술 더 떠 오픈AI가 현재 영리법인 전환을 시도하면서 안전한 AI 사용 취지가 위협받을 것이라는 의심의 시선은 사그라지지 않고 있다.
오픈AI는 2019년 AI 개발의 높은 비용을 충당하기 위해 영리 자회사를 설립한 뒤 비영리 이사회의 통제를 받는 방식으로 지배구조를 바꿨는데, AI 판이 더욱 커지자 이번엔 공익적 목적에 재투자해야 할 의무가 없는 법인으로 체질 개편에 나선 것이다.
샘 올트먼 최고경영자(CEO)는 오픈AI 공동 창업자 중 가장 공격적으로 수익성 사업을 발굴하고 있는 인물이다.
오픈AI 내에서 AI 안전성을 강조하며 ‘반(反) 올트먼 전선’에 있었던 주요 인물들은 ”오픈AI가 돈 버는 데 급급하다”고 비판하며 지난해 대부분 줄퇴사를 했다.

전 세계적으로 생성형 AI 기술을 리드하고 있는 오픈AI가 영리법인으로 지배구조마저 개편된다면 안전장치 없는 AI 기술이 충분한 숙고 없이 개발되고, 나아가 인류에 위해를 가할 것이라는 우려가 제기된다.
오픈AI 초기 창립 멤버였던 일론 머스크 테슬라 CEO는 지난해 11월 오픈AI의 영리법인 전환을 막아달라는 가처분 소송을 제기한 데 이어 마크 저커버그 메타 플랫폼 CEO도 오픈AI의 영리법인 전환 반대에 가세했다.

AI 머신러닝 기초를 확립해 지난해 노벨물리학상을 받은 ‘AI 대부’ 제프리 힌턴 캐나다 토론토대 교수도 공개적으로 오픈AI의 영리법인 전환을 반대한다는 입장을 밝혔다.
힌턴 교수는 AI로 인해 향후 30년 내 인류가 멸종할 수 있다는 전망을 내놓는 AI 비관론자이기도 하다.
힌튼 교수는 지난달 말 성명을 통해 “오픈AI는 안전에 초점을 맞춘 비영리 단체로 설립됐고 안전과 관련한 다양한 약속을 했다”며 “그동안 비영리 단체 지위를 유지하며 많은 세금 혜택을 받은 오픈AI가 불편함을 이유로 모든 것을 바꾸려 한다면 이는 AI 산업 내 다른 주체들에게 매우 부정적인 메시지를 줄 것“이라고 밝혔다.

오픈AI가 기업구조 개편에 나서는 것은 AI 기술 개발 비용이 점점 커지는 상황에서 현 비영리 모회사 구조로는 더 이상의 투자 유치가 어렵다는 판단 때문이다.
더구나 오픈AI는 차세대 AI 모델 GPT-5 개발 일정이 기술적 문제에 부딪혀 막대한 비용을 쓰면서도 기약 없이 지연되고 있는 것으로 알려졌다.
오픈AI는 지난해 3월 GPT-4가 출시된 이후 GPT-5 개발에 착수했지만, AI 데이터 훈련 한계, 인력 부족 등 문제에 직면했다.
업계 추정에 따르면 오픈AI는 GPT-5 개발을 위한 대규모 AI 훈련을 위한 컴퓨팅 비용만으로 6개월간 약 5억달러(약 7200억원) 소요했을 수 있다.

오픈AI 내에서 AI 개발에 따른 위험성을 경고할 수 있는 인물이나 장치는 적어졌다.
2023년 11월 올트먼 CEO 축출을 주도했던 일리야 수츠케버 전 오픈AI 공동창업자는 지난해 5월 오픈AI를 떠난 뒤 ‘안전한 초지능’을 목표로 한 회사를 창업했다.

지난해 7월 AI 안전을 목표로 오픈AI에서 만들어졌던 팀 ‘수퍼얼라인먼트’는 수츠케버 전 창업자 퇴사 시점에 해체됐다.
이 팀의 얀 리이크 공동 리더는 자신의 X(엑스·옛 트위터)에 사임 소식을 전하며 “지난 수년간 AI 안전성은 잘 나가는 제품에 밀려났다”고 오픈AI를 간접적으로 비판하기도 했다.

오픈AI는 안전한 AI 개발의 레드라인을 넘나들고 있다.
지난해 12월 미 방산업체 안두릴과 파트너십 맺기 이전인 지난해 초 미 국방부와 사이버 보안 도구 개발을 위해 협업한다고 발표했다.
또한 서비스 정책 약관에서 군사 및 전쟁 응용프로그램에 자사 AI 사용을 막는다는 조항을 삭제하기도 했다.

만일 오픈AI가 영리법인 전환까지 나설 경우 상업적 경쟁에서 앞서나가기 위해 안전장치 없는 AI 모델을 개발·배포할 가능성이 커질 수 있다.
이로 인해 전 세계 주요국 정부가 경쟁하듯 AI 군수물자를 앞다퉈 생산할 수 있다는 관측이 나온다.
이는 수익성 내기에 적극적인 AI 기업 사례를 통해 확인할 수 있다.
지난해 11월 중국 정부는 메타 플랫폼의 AI 모델 라마를 활용해 은밀히 군사용 AI 모델을 개발했다는 소식이 대표적이다.
직후 메타 플랫폼은 미국 국방 기관과 관련 민간 업체에 자사 AI 모델 라마를 제공한다고 발표했다.

아울러 지난해 11월 오픈AI의 비윤리적 개발 행태를 고발한 수치르 발라지 전 오픈AI 개발자가 갑작스레 생을 마감하면서 오픈AI의 상업화 논란은 더욱 가열되고 있다.
그의 사망 사건은 극단적 선택으로 종결됐지만 유가족은 타살을 주장하며 당국에 재수사를 요청했다.
머스크 CEO도 X에 “자살로 보이지 않는다”고 적으며 논란에 불을 지피고 있다.

일각에서는 차기 도널드 트럼프 2기 행정부의 실세로 떠오른 머스크 CEO가 오픈AI의 상업화에 제동을 걸 것이라는 전망도 나온다.
머스크 CEO는 지난해 캘리포니아주가 추진했던 AI 규제법 일명 ‘SB 1047’을 AI 기업 관계자 중 거의 유일하게 지지한 바 있다.
AI 개발사가 자사의 대규모 언어 모델에 대한 안전 테스트를 의무화하는 내용을 담은 이 법안은 개빈 뉴섬 캘리포니아주 주지사가 거부권을 행사하면서 폐기됐다.