주요국 정상들이 인공지능(AI) 거버넌스(규범)에 관해 안전, 혁신, 포용성을 우선순위로 두고 국제 논의를 진행하기로 했다.
AI 안전연구소 등을 설립하기 위해 함께 노력하고, 이들 단체 간의 협력도 늘려 나갈 방침이다.
 
윤석열 대통령과 리시 수낵 영국 총리가 21일 공동으로 개최한 'AI 서울 정상회의'에서 주요국 정상과 기업은 이같은 내용을 담은 '서울 선언'을 채택했다.
이들은 "AI의 전례 없는 발전과 우리 경제·사회에 미치는 영향을 마주해 AI 분야에서 국제 협력과 대화를 촉진하고자 하는 공동의 헌신을 확인한다"고 밝혔다.
그러면서 "2023년 11월 영국 블레츨리 파크에서 개최된 AI 안전성 정상회의에서 제시한 노력을 바탕으로 우리는 AI의 안전·혁신·포용성이 상호 연계된 목표로서 AI 설계·개발·배치·사용이 제기하고 있거나 제기할 수 있는 광범위한 기회와 도전에 대응하기 위해 AI 거버넌스에 대한 국제 논의에 이 우선순위들을 포함하는 것이 중요하다는 점을 인식한다"고 선언했다.
또 "우리는 선언 참여국들이 AI 안전연구소, 연구 프로그램, 그리고 감독 기관들을 포함한 기타 유관 기관들을 설립하기 위해 진행하거나 계속 진행 중인 노력을 지지한다"며 "이러한 단체 간의 네트워크를 육성해 안전 연구에 관한 협력을 증진하고, 모범 관행을 공유하기 위한 협력을 증진하기 위해 노력한다"고 언급했다.
그러면서 이번 선언의 부속서인 'AI 안전 과학에 대한 국제 협력을 위한 서울 의향서'를 환영한다는 입장을 냈다.
이 의향서는 AI 안전연구소를 포함하는 공공 또는 정부 지원 기관을 설립하거나 확장하기 위한 공동의 노력을 격려하고, 핵심 파트너들 간의 국제 네트워크를 발전시키기 위해 긴밀한 협력, 대화를 이어 나간다는 내용을 담고 있다.
이들은 "우리는 인간 중심적인 AI를 활용해 국제 난제를 해결하고, 민주주의적 가치, 법치주의와 인권·기본적 자유와 프라이버시를 보호·증진하기 위해 AI 안전·혁신·포용성을 향상하는 국제 협력 강화를 촉구한다"고 합의했다.
아울러 "우리는 안전하고 혁신적이고 포용적인 AI 생태계들을 육성하는 위험 기반 접근법들을 포함한 정책·거버넌스 체계들을 지지한다"면서 "이 체계들은 인간의 창의력과 AI의 개발·사용간 의 선순환을 촉진하고 사회·문화적, 언어적, 그리고 성별 다양성을 증진하며, 상업적·공개적으로 사용 가능한 AI 시스템들의 전 주기에 걸쳐 환경적으로 지속 가능한 기술과 인프라의 개발·사용을 증진해야 한다"고 강조했다.
이어 "우리는 유엔과 산하 기구, G7, G20, OECD, 유럽평의회, GPAI 등 여타 국제 이니셔티브들에의 관여를 통해 AI 거버넌스에 관한 국제 협력을 강화하기로 한다"고 덧붙였다.
 
이들은 AI 정상회의가 AI 안전, 혁신, 포용성을 촉진하는 AI 거버넌스 논의를 진전시키기 위한 고위급 포럼으로 평가하고, 다음 프랑스가 개최하는 정상회의에서 논의를 계속하기로 했다.
 
이날 'AI 서울 정상회의' 정상 세션에는 한국을 비롯해 영국, 프랑스, 미국, 독일, 일본, 캐나다, 이탈리아, 싱가포르, 유럽연합(EU), 유엔(UN), 경제협력개발기구(OECD) 등 12개 국가와 국제 기구, 슈미트재단, 구글 딥마인드, 앤트로픽, xAI, 삼성전자, 네이버, 미스트랄AI, 오픈AI, 마이크로소프트, 아마존 웹 서비스, 메타 등 11개 기업이 참석했다.