AI 업계 수장들 "정부 규제와 속도조절 필요"
미·중 AI 치킨게임에 '정렬' 표류, 속도조절 난망
"한국, 'AI 사회학' 이끄는 중견국 리더 돼야"

범용 인공지능(AGI)에 근접한 오픈AI의 아스트라 모델, 앤트로픽의 페이블 5.1 모델이 보여준 가공할 만한 위력 때문에 국제 사회가 AI 개발 속도를 정부 간 협력체제로 조절해야 한다는 목소리가 AI 기업 내부에서 솟아오르고 있다. 머지않아 AI가 인간 통제를 벗어나 인류 종말의 길로 치닫게 할 것이라는 비관론자(Doomer)들의 견해가 힘을 얻고 있는 것이다. 이로 인해 미국 증시의 반도체 주식 가격이 하루밤새 5% 넘게 떨어지는 등 시장도 예민하게 반응하고 있다.

그러나 민간 주도의 미국 AI 개발 생태계와 정부 주도의 중국 AI 개발 시스템이 상호 경쟁하고 충돌하면서 현실적인 정렬(Allignment) 정책의 실현은 쉽지 않을 것으로 보인다. 정렬은 AI의 행동 패턴을 인류 공통의 윤리와 가치관에 맞춰 조정하는 일을 말한다.

AI 개발 속도조절론의 선봉에 나선 인물은 다리오 아모데이 앤트로픽 최고경영책임자(CEO). 그는 지난 12일(현지시간) 자신의 블로그에 '우리는 프론티어 개발 속도를 조절해야 한다'는 선언문을 올리며 첨단 AI의 부정적 기능을 억제할 정부의 정책 마련을 촉구했다. 그는 이전에도 미 국방성에 대한 AI 살상무기 납품을 거부하며 선한 목적의 AI 활용을 강조한 바 있다. 특히 앤트로픽 내부에서 최근 AGI 수준의 최신 모델이 인류를 멸망시킬 수 있다며 퇴사하거나 경고하는 직원들이 잇달아 나타나고 있다.

아모데이 CEO는 위험의 근거로 AI의 '재귀적 자기개선(RSI)'을 들었다. RSI는 AI가 성능을 향상시키는 프로그래밍 개선 작업을 스스로 해내는 능력을 말한다. 이는 진화를 통해 환경에 적응하는 생명체만의 능력으로 그동안 치부돼왔다. 아모데이는 "(RSI가) 앤트로픽뿐 아니라 AI업계 전반에 나타나고 있다"며 "이를 방치하면 AI를 이해하고 통제하는 인간의 능력을 앞지를 수 있다"고 경고했다.

그는 최근 자사의 최신모델이 다른 IT기업 허깅페이스의 서버에 침입해 시키지도 않은 해킹을 자행한 사건을 거론하면서, 이대로 가면 6~12개월 내에 AI 에이전트가 인터넷을 장악하고 수천만 달러의 금전적 피해를 끼칠 수 있다고 예언했다. 그는 "임계점에 도달하기 전에 1~2년의 시간을 벌어 정렬 기술의 개선에 쓰면 심각한 위험을 크게 줄일 수 있다"고 대안을 제시했다.

이 같은 선구자의 발언에 평소 1등 자리를 놓고 앤트로픽과 다투던 오픈AI의 샘 알트먼 CEO, 테슬라의 일론 머스크 CEO도 잠시 경쟁을 접고 "아모데이 CEO의 말이 맞다"며 맞장구를 치고 나왔다. 다만, 이들은 AI의 성능 개발을 시장에서 자율 억제하긴 어렵기 때문에 정부가 앞장서 AI 안전망을 구축해야한다는 견해를 유지하고 있다. 

 

하지만 도널드 트럼프 미국 대통령은 CEO들의 발언이 나온지 하루 만에 '그러면 중국에 진다'며 부정적인 입장을 내놓았다. 그는 지난 13일(현지시간) 기자들에게 "AI에서 이기는 쪽이 승리한다"며 "안전장치를 둘 수도 있다. 그러나 여러 부정적인 세력이 이 문제를 제기하면서 실제로는 일어나지 않을 일까지 거론하고 있다고 생각한다"고 AI 속도조절론을 반박했다. 워싱턴포스트(WP)는 "트럼프를 기술계와 정치권을 양분하고 있는 AI 개발 속도 논쟁에서 '전속력 전진'이라는 확고한 입장을 재확인했다"고 평가했다. 오는 24일 미중 정상회담에서 AI 속도조절이 주요 의제로 오를지 귀추가 주목된다.

그러나 미국과 AI 패권국 지위를 놓고 치열한 기술전쟁을 벌이고 있는 중국은 속도조절에 별다른 관심을 보이지 않고 있다. 시진핑 중국 주석은 13일 인도에서 열린 브릭스 정상회의에서 중국 주도의 '브릭스 AI 오픈소스 지대' 창설을 제안했다. 브릭스는 중국, 러시아, 인도, 브라질과 남아공, 이란, 아랍에미리트, 이집트, 인도네시아, 에티오피아 등 비서방 신흥국들의 모임이다. 

 

오픈소스는 AI 모델의 학습과 개발에 필요한 데이터를 공개하자는 방침이다. 중국의 AI 모델은 대부분 미국 메타 등 일부 기업과 연구자들이 시행 중인 오픈소스 AI 데이터를 개선해 만든 것들이다. 이 때문에 "중국이 미국의 공개 AI 모델을 증류(distillation, 높은 성능의 AI 모델을 교사로 낮은 성능의 학생 AI 모델을 학습시키는 기술)해 저가형 시판 상품을 출시한다"며 데이터 수출을 통제해야 한다는 주장이 미국에서 나오기도 했다. 오픈AI, 앤트로픽, 테슬라, 아마존, MS, 애플 등 대다수 미국 IT기업들의 AI 모델은 데이터를 공개하지 않는 폐쇄형 제품들이다.

중국이 자국의 오픈소스 AI 모델로 브릭스 같은 친(親)중국 국가들에 추파를 던지는 이유는 개발 플랫폼을 공유함으로써 '중국판 AI 표준'을 확산시키려는 의도로 풀이된다. 중국은 정부 주도로 산학관 일체의 AI 개발 총력전을 벌여 미국을 능가한 세계1위 AI 선도국으로 올라선다는 국가 목표를 갖고 있다.

국제사회는 미중의 이 같은 기술패권 양상 때문에 단기간 내 의미 있는 속도조절 합의에 이르긴 어려울 것으로 전망하고 있다. 뉴욕타임스(NYT)는 미중이 정상회담 등에서 규제에 합의하더라도 상대가 지키지 않을 것이란 불신 때문에 AI 개발 경쟁을 멈추기 힘들 것이라며, "미중 AI 패권경쟁이 낳은 '죄수의 딜레마'"라고 표현했다. 게다가 AI는 핵무기와 달리 군축의 이행상황을 실제 현장점검하기 매우 어렵다는 난점을 안고 있기도 하다. 

 

로이터통신은 트럼프 집권 2기 들어 최초의 AI 안전 대화(Safety Talk)를 9월 중순에 개최하는 방안을 논의 중이라고 보도했으나, 이미 반도체 전쟁으로 과열된 양국 간 경제 레이스가 과연 중도 휴전에 합의할 수 있을지 기대감은 낮아지고 있다. 양국은 각각 인플레와 실업 같은 내수경제의 큰 도전에 노출되면서 AI 경기 부흥에 기댈 수밖에 없는 처지로 몰리고 있어서다. 결국 AI의 위험을 알면서도 브레이크를 걸지 못하는 치킨게임의 양상으로 치달을 우려가 크다는 분석이다.

필자는 이 지면을 빌어 그동안 인류사상 유례없는 지능폭발의 명암을 여러차례 제시해왔다. AI는 상품이 아니라 지식의 가격을 제로로 만듦으로써 경제체계에서부터 정치, 사회, 문화 등 모든 영역의 패러다임을 180도 바꾸어갈 것이란 예언이다. 거기에는 풍요한 물질적 삶과 문화예술을 즐기는 대중사회와 같은 밝은 미래도 있다.

하지만 AI 기술의 편향과 양극화, 인간통제 탈출 등 어두운 측면도 존재함을 강조해왔다. 만약 수천 년 인류의 지혜로 축적된 자기 억제와 조절 시스템이 작동하지 못한다면 핵무기보다 더 위험한 비극을 초래할 수도 있다고 경고해왔다. 다시 한 번 반복한다. AI를 인간사회에 맞추어 길들이는 'AI 사회학'이 필요하다. 그리고 AI 중견국인 한국은 AI 사회학의 리더가 될 수 있다. 부동산 가격의 등락과 장관 몇 명의 임명에 뉴스가 춤추는 동안, 누군가는 호흡이 긴 이 문제를 차분하게 짚고 논의해보았으면 좋겠다.

  

 

● 노성열은

30여 년 경력의 경제부 기자로 산업계와 인공지능(AI)을 주로 취재했다. 기획재정부, 산업통상자원부, 과학기술정보통신부 등 정부 부처 및 경제 단체를 출입하면서 삼성, 현대, SK 등 대기업과 중소벤처업계 현장에서 발생하는 뉴스를 다루어왔다. 일본, 법제도, AI를 포함한 첨단 과학기술 등이 주 관심분야다. 언론계뿐 아니라 학계에도 진출해 지식재산권(IP) 인식 제고와 공학교육 개혁에 매진하고 있다.

△KAIST 공학석사, 한양대 국제학대학원 일본지역학 석사, 고대 법대 및 한국외국어대 일본어학과 학사 △1991년 문화일보 입사 △북리뷰팀, 법조팀, 산업팀장, 전국(지방자치)부 부장 △한국지식재산기자협회(KIPJA) 회장(2024~) △대구경북과학기술원(DGIST) 외부협력 총장 보좌역(2024.6~) △영국 옥스퍼드대 VOX(Voice From Oxford) 한국지부 대표(2024~) △한국과학기술단체총연합회 '과학과 기술' 편집위원(2023~) △국가녹색기술연구소 정간물 편집위원(2024~) △식품의약품안전처 정책자문위원(2020~2022) △한국과학기술정보연구원(KISTI) 데이터미래전략위원회 미래정책분과 자문위원(2021~2023) △한국지능정보사회진흥원(NIA) '인공지능 활성화 방안 연구' 총괄위원(2023) △주요 저서: 뇌 우주 탐험(이음, 2022), 인공지능 시대 내 일의 내일(동아시아, 2020)

[ⓒ KPI뉴스. 무단전재-재배포 금지]