AI 속도 조절론, 왜 아무도 먼저 못 멈추나: 죄수의 딜레마로 본 AI 경쟁
AI가 위험하다는 경고는 커지는데, 정작 경고하는 쪽의 투자와 사업 확장은 빨라지고 있다. 이병태 카이스트 경영대 명예교수는 "액면 그대로 믿기에는 앤트로픽 등의 행위가 너무나 위선적"이라고 평가했다. 매경ECONOMY 커버스토리는 이 모순을 '죄수의 딜레마'로 설명한다. 국가, 기업, 선두 기업의 세 층위로 나눠 정리했다.
죄수의 딜레마로 본 AI 경쟁
죄수의 딜레마는 서로 협력하면 모두에게 이롭지만, 각자 따로 계산하면 상대를 믿지 않는 쪽이 유리해져 결국 둘 다 손해를 보는 구조다.
AI 경쟁에 대입하면 판돈부터 크다. 국가에는 기술 패권이, 빅테크에는 시장 주도권이 걸려 있다. 모두가 함께 속도를 줄이면 위험을 낮출 수 있다. 문제는 혼자 감속한 쪽만 뒤처진다는 점이다. 상대도 감속하리라는 믿음이 없으니 어느 쪽도 먼저 나서기 어렵다.
국가 간: 미·중 모두 달갑지 않은 AI 속도 조절론
출발점은 다리오 아모데이 앤트로픽 CEO가 9월 12일 내놓은 에세이 'We Must Pace the Frontier'다. 최전선 AI 개발의 속도를 조절하자는 내용이지만 단서가 붙었다. 속도를 늦추더라도 미국의 대중국 기술 우위는 지켜야 한다고 못 박았다. 안전을 내세우면서도 패권 경쟁이라는 전제는 그대로 두었다.
중국도, 미국 정부도 이 제안을 반기지 않았다. 궈자쿤 중국 외교부 대변인은 "공포 조장과 대립, 악성 경쟁은 세계 AI 거버넌스를 흔들 뿐"이라고 했고, 관영 글로벌타임스는 이를 '조용한 AI 냉전'으로 규정했다. 트럼프 대통령은 9월 14일 '올인 서밋'에서 감속 움직임이 "AI의 발전을 원하지 않는 쪽의 의도에 이용될 수 있다"고 했다. AI 파국론은 아예 '사기극(hoax)'이라 불렀다. 켄턴 티보 애틀랜틱카운슬 선임연구원은 미·중이 AI 안전에서 큰 돌파구를 찾을 가능성이 매우 낮다고 봤다.
기업 간: 서열 경쟁과 묶인 자본
같은 구도는 기업 사이에서도 반복된다. 블룸버그 인터뷰에 나선 게리 탄(올스프링글로벌인베스트먼트 포트폴리오 매니저)은 "나머지 생태계가 현재의 서열을 받아들이고 속도를 늦출지는 확신할 수 없다"고 말했다. 뒤쫓는 기업에게 지금 감속에 동의하는 일은 현재 순위를 그대로 굳히는 일이나 다름없다.
업계 전체로 보면 이미 약속된 돈도 발목을 잡는다. 모건스탠리는 알파벳·아마존·메타·마이크로소프트·오라클 등 5개 하이퍼스케일러와 엔비디아·브로드컴의 AI 관련 장부 밖 약정이 3조1000억 달러를 넘는다고 추산했다. 장부에 다 잡히지 않았을 뿐 결국 나갈 돈이다. 이만큼 묶인 돈이 있으면 속도를 늦추기는 더 어렵다.
선두 기업의 셈법: 안전인가, 사다리 걷어차기·규제 포획인가
그렇다면 앞선 기업은 왜 감속을 말할까. 그 진의를 의심하는 시각은 크게 세 갈래다.
진입장벽과 규제 포획
첫째는 진입장벽이다. 소셜캐피털 창업자 차마스 팔리하피티야는 아모데이의 제안을 '사다리 걷어차기'로 봤다. 안전 규제가 엄격해질수록 부담은 한쪽으로 쏠린다. 돈과 인재, 연산 자원을 쌓아 둔 선두는 견디지만 따라가는 쪽은 비용과 시간이 더 든다. 김중한 삼성증권 애널리스트도 선두권 업체들의 입장 표명이 짠 듯 이어지면서 '규제 포획' 의심이 커졌다고 봤다.
GPU 기회비용
둘째는 비용이다. 같은 GPU를 새 모델 학습에 돌리면 그동안은 서비스 매출을 만들 수 없다. 메리츠증권은 오픈AI GPT-6 아스트라 학습에 블랙웰급 GPU 10만 개를 10주간 쓴다고 가정할 때 포기하는 수익을 12억1000만 달러로 계산했다. 출시 간격이 길어지면 선두 기업은 개발비를 덜 쓰고 기존 설비로 더 오래 벌 수 있다는 해석이 여기서 나온다.
좁혀진 선두권 격차
셋째는 시점이다. 스탠퍼드대 'AI 인덱스 2026'에 따르면 '아레나' 평가에서 2023년 초 오픈AI는 구글을 200점 넘게 앞섰지만, 올해 3월 상위 4개사(앤트로픽·xAI·구글·오픈AI)의 격차는 22점에 불과했다. 감속론은 선두권 간격이 유난히 좁아진 때에 나왔다.
앤트로픽의 모순: 감속을 말하면서 경쟁은 계속한다
앤트로픽 자신의 행보도 의심을 키운다. 파국적 위험을 경고하는 와중에도 코딩 도구와 기업 고객을 두고 경쟁사와 맞붙어 왔고, 에세이를 낼 무렵에도 새 모델을 준비하고 있었다(WSJ). 로이터도 감속론과 성장 압력 사이의 모순에 주목했다. 앤트로픽은 현재 IPO로 최대 1000억 달러 조달을 추진 중이다. 상장 뒤에는 매출 성장과 기업가치 상승을 바라는 주주 압력까지 더해질 수 있다.
정리: AI 속도 조절론, 명분과 동기가 겹치다
AI 속도 조절론은 국가 차원에서는 패권 경쟁에, 기업 차원에서는 서열 경쟁과 이미 묶인 자본에 가로막힌다. 함께 속도를 줄이면 위험을 낮출 수 있지만 누구도 먼저 나서지 못한다는 점에서 죄수의 딜레마와 닮았다. 선두 기업의 '안전' 명분 뒤에 진입장벽, GPU 기회비용, 좁혀진 격차 같은 이익 계산이 깔려 있다는 의심과, 감속을 말하면서 성장 경쟁은 멈추지 않는 모순이 함께 제기된다. 다만 이는 의혹과 해석일 뿐 진의를 단정할 근거는 아니다. 누가 어떤 위치에서 감속을 말하는지 따져 보면 논쟁의 구조가 한결 선명해진다.
참고 자료
- 매경ECONOMY 2026.9.30~10.6호, COVER STORY 「AI 디스토피아의 역설 — 위험하다면서 빠르게 내달린다, 먼저 못 멈추는 '죄수의 딜레마'」 (최창원 기자), 36~37쪽
댓글