인공지능(AI)의 발전과 그로 인한 인류 파멸 위험에 대한 경고가 잇따르고 있다. 똑똑해진 AI들의 일탈 행동이 이어지면서 통제불능 위기가 머지않아 닥칠 수 있다는 위기의식이 이 분야 종사자들 사이에서 번지고 있다. 그런데도 빅테크들의 AI 패권 경쟁은 격화일로만 걷고 있다. 인류가 AI 통제권 확보를 위해 지혜를 모으고 협력해야 할 시。이다. 야쿠프 파호츠키 오픈AI 수석과학자는 지난 6일(현지시간) ‘외계의 지성’이라는 기고문에서 “지금은 극도의 주의가 필요한 시기”라며 AI 기술 개발의 ‘속도조절’을 촉구했다. 그는 “기계 지능이 계속 급속 발전할 경우 초래될 결과에 아무도 대비하지 않고 있다”고도 했다. AI 석학 요슈아 벤지오 몬트리올대 교수도 7일 일본 마이니치신문 인터뷰에서 통제 기술이 AI 발전을 따라잡지 못하는 지금 상황이 “매우 위험하다”며 ‘파멸적 위험’을 경고했다. 앞서 지난 6월엔 앤트로픽 사내 연구소 책임자 마리나 파바로 등이 세계가 AI 발전 속도를 늦추는 방안을 검토해야 한다고 제안했다. 개발자들부터 AI의 고삐 없는 발전에 우려를 금치 못하는 현 상황을 심각하게 받아들여야 한다. 실제로 AI들의 ‘위험한 일탈’이 잇따르고 있다. 오픈AI의 AI 에이전트 약 3700개가 5월 팀처럼 행동하며 독일의 ‘DseWiki’ 사이트를 해킹한 사실이 6일 뒤늦게 알려졌다. 7월엔 오픈AI와 앤트로픽의 에이전트 모델들이 인터넷에 접속해 외부 사이트를 해킹하거나 무단 접속하는 일도 벌어졌다. 하지만 빅테크들의 AI 경쟁을 보면 이런 우려가 무색하다. 바다이야기릴게임솔루션 오픈AI는 3일 인간의 개입 없이 시스템의 취약.을 찾아 공격할 수 있는 GPT-6 아스트라를 공개하면서 “범용인공지능 시대에 온 것을 환영한다”고 했다. 앤트로픽과 메타도 새 AI 모델을 선보이며 경쟁을 가속화하고 있다. 이런 경쟁 속에 AI의 안전성 문제는 뒷전으로 밀려나 있다. AI 개발 속도조절과 통제 방안 마련은 기업 차원을 넘어섰다. 개발자들 스스로 위험성을 경고하면서도, 속도 경쟁을 멈추지 못하는 상황이 이를 방증한다. AI에 대한 초국가적 통제와 개발 속도에 대한 합의를 만들어내는 건 인류의 운명을 담보하기 위해 필수적이고 시급한 과제다. AI에 대한 격리·모니터링 기술과 비상정지 메커니즘 등 다층적 통제장치 마련을 위한 국제적 논의와 협력을 서둘러야 한다.