1945년 8월 6일 오전 8시 15분. 일본 히로시마 상공에서 한 발의 원자폭탄이 폭발했습니다. 단 하나의 폭탄이 도시 하나를 거의 파괴했고 수많은 사람이 목숨을 잃었습니다. 살아남은 사람들 역시 화상과 부상, 방사선 피폭과 그 후유증으로 오랫동안 고통받아야 했습니다. 사흘 뒤인 8월 9일에는 나가사키에도 원자폭탄이 투하되었습니다. 인류는 이 두 번의 폭발을 경계로 이전과는 다른 세계에 살게 되었다고 해도 과언이 아닙니다. 인간은 자신의 문명을 파괴할 수도 있는 힘을 스스로 만들어냈고, 그것을 실제 인간이 살아가는 도시에서 사용함으로써 그 힘이 무엇을 의미하는지를 확인했습니다. 하지만 저는 히로시마보다 시간을 조금 더 거슬러 올라가 보고 싶습니다. 히로시마에 원자폭탄이 떨어지기 불과 3주 전인 1945년 7월 16일, 미국 뉴멕시코의 사막에서는 인류 최초의 핵실험인 ‘트리니티(Trinity)’가 실시되었습니다. 아직 해가 뜨기도 전인 사막에서 과학자들과 군인들은 자신들이 만들어낸 장치가 폭발하는 모습을 지켜보았습니다. 이전까지 이론과 계산, 실험실 속에 존재하던 물리학이 현실 세계에서 엄청난 에너지로 모습을 드러낸 순간이었습니다. 저는 가끔 그 자리에 있었던 사람들의 심정을 생각해 봅니다.
그들은 자신들이 무엇을 만들어냈는지 알고 있었을까요?
물론 그들은 핵분열의 원리를 알고 있었습니다. 자신들이 만든 폭탄이 엄청난 폭발력을 갖게 되리라는 것도 알고 있었습니다.
하지만 그 순간 자신들이 바라보던 섬광이 앞으로 수십 년 동안 국제정치와 군사전략을 지배하고, 국가들이 상대방을 멸망시킬 수 있는 무기를 대량으로 보유하며 서로를 견제하고, 인류가 자신의 문명 전체를 파괴할 가능성을 현실적인 문제로 고민하게 되는 시대의 시작이라는 사실까지 온전히 이해할 수 있었을까요? 아마 아무도 그 미래의 전체 모습을 알 수는 없었을 것입니다. 그리고 저는 지금 우리가 또 다른 의미에서 그러한 순간에 서 있는 것은 아닌지 생각합니다. 바로 인공지능, AI의 등장 때문입니다.
AI가 핵무기라는 이야기는 아닙니다
여기서 한 가지는 분명히 하고 싶습니다. 저는 AI가 핵무기와 같다고 주장하려는 것이 아닙니다. 두 기술의 성격은 근본적으로 다릅니다. 핵무기는 막대한 에너지를 방출하는 기술이며, 특히 핵무기의 경우 그 파괴력 자체가 존재 이유입니다. 반면 AI는 정보를 처리하고 생성하며 인간의 지적 활동을 보조하거나 대신할 수 있는 범용 기술입니다. AI는 질병을 연구하고, 프로그램을 만들고, 언어의 장벽을 낮추고, 교육을 돕고, 과학 연구를 가속하는 데 이용될 수 있습니다. 우리가 아직 상상하지 못한 수많은 긍정적인 가능성도 품고 있습니다. 제가 핵기술의 역사와 AI 사이에서 주목하는 공통점은 다른 곳에 있습니다.
인간이 자신이 만들어낸 기술의 사회적·역사적 파급력을 충분히 이해하기도 전에 그 기술이 먼저 세상에 등장하고 확산될 수 있다는 점입니다.
우리는 이미 AI가 무엇을 할 수 있는지를 매일 확인하고 있습니다. 불과 몇 년 전만 해도 미래의 이야기처럼 들렸던 일들이 이제는 평범한 서비스가 되었습니다. AI는 자연스러운 문장을 작성하고 그림과 영상을 만들며, 사람의 목소리를 흉내 내고 프로그램을 작성하며 방대한 자료를 분석합니다. 인간과 대화하고 추론하며 점점 더 복잡한 작업을 수행하고 있습니다. 문제는 우리가 AI가 지금 무엇을 할 수 있는지는 어느 정도 알고 있어도, 이것이 10년 뒤, 30년 뒤, 50년 뒤 인간 사회를 어떻게 바꾸어 놓을지는 모른다는 것입니다.
핵폭발과 달리 AI의 위험에는 섬광이 없을지도 모릅니다
AI의 위험은 반드시 공상과학 영화처럼 인간에게 반란을 일으킨 기계의 모습으로 찾아올 필요도 없습니다. 허위정보와 딥페이크, 대규모 사기와 사회공학 공격은 이미 현실적인 문제가 되었습니다. 앞으로 AI가 더욱 발전한다면 사이버 공격이나 여론 조작, 자율무기와 군사적 의사결정에도 더 깊숙이 관여할 수 있습니다. 기업과 정부의 중요한 판단에 AI가 이용되고, 사람들이 자신의 판단보다 AI의 판단을 신뢰하는 사회가 올 수도 있습니다. 극소수 기업이나 국가가 매우 강력한 AI를 독점한다면 지식과 정보뿐 아니라 경제력과 정치적 영향력까지 함께 집중될 가능성도 생각해야 합니다. 어쩌면 이 점에서 AI는 핵무기보다 위험을 알아차리기가 더욱 어려운 기술일지도 모릅니다. 핵폭발은 자신의 위험을 숨기지 않습니다. 눈부신 섬광과 폭풍, 화재와 방사능이 그 파괴력을 누구에게나 보여줍니다. 반면 AI가 사회에 미치는 악영향은 그렇게 극적인 한순간의 사건으로 나타나지 않을 수도 있습니다. 우리가 편리함을 누리는 동안 정보 생태계의 신뢰성이 조금씩 무너지고, 인간이 해야 할 판단을 점차 기계에 맡기고, 일부 직업과 산업이 급격하게 재편되고, 중요한 정보와 기술이 소수의 기업에 집중되는 방식으로 진행될 수도 있습니다. 각각의 변화만 놓고 보면 견딜 만한 것처럼 보이지만, 어느 순간 뒤돌아보았을 때 사회의 중요한 전제가 이미 바뀌어 있을 가능성도 있습니다.
Wikipedia – 2026 Minab school attack
그렇다고 AI를 멈추자는 이야기도 아닙니다
인류는 위험하다는 이유만으로 모든 기술을 포기하지 않았습니다. 원자력은 그 대표적인 사례입니다. 핵분열이라는 같은 과학적 발견에서 핵무기가 만들어졌지만, 동시에 원자력 발전과 의학, 과학 연구 등 수많은 평화적 이용 방법도 발전했습니다. 우리는 항공기가 추락할 수 있다는 이유로 비행기를 없애지 않았습니다. 대신 항공기의 설계와 정비, 조종사의 자격, 항공교통관제에 엄격한 기준을 만들었습니다. 의약품에 부작용이 있을 수 있다는 이유로 신약 개발을 중단하지도 않았습니다. 대신 임상시험과 허가제도, 시판 후 감시체계를 만들었습니다. 안전벨트와 충돌시험이 자동차 산업의 발전을 막기 위해 존재하는 것이 아니듯, AI에 대한 안전기준과 감독 역시 AI의 발전을 막기 위해 존재해야 하는 것은 아닙니다. 오히려 그 반대입니다. 강력한 기술일수록 사회가 안심하고 사용할 수 있도록 만드는 제도가 필요합니다. 제대로 된 안전장치는 기술 발전의 장애물이 아니라 그 기술이 오랫동안 사회의 신뢰를 받으며 사용되기 위한 기반입니다. 그런데 여기서 문제가 생깁니다.
누가 먼저 속도를 늦출 것인가 하는 문제입니다.
“AI에서 이기는 자가 이긴다”
공교롭게도 이 글을 쓰고 있는 바로 지금, 2026년 9월 우리는 이 딜레마가 현실 정치에서 펼쳐지는 모습을 보고 있습니다. 도널드 트럼프 미국 대통령은 9월 13일 아일랜드 방문 중 AI 개발을 늦추거나 규제해야 하느냐는 질문을 받았습니다. 트럼프 대통령은 어느 정도의 안전장치를 둘 수 있다는 점은 인정하면서도 AI의 위험을 강조하는 사람들을 “negative forces”라고 표현하며, 그들이 일어나지 않을 일들을 제기하고 있다고 비판했습니다. 그리고 중국과의 경쟁을 거론했습니다.
“Whoever wins AI wins.”
“AI에서 이기는 자가 이긴다”는 것입니다. 트럼프 대통령은 미국이 현재 중국보다 앞서 있으며 그 상태를 유지하고 싶다고 말했습니다. AI는 나쁜 것보다 좋은 것을 훨씬 많이 가져올 것이라는 낙관적인 전망도 내놓았습니다.
AP — Trump downplays the need to check AI development and says he doesn’t want to cede edge to China
Reuters — Trump says ‘very negative forces’ raising exaggerated concerns over AI
이 논리를 단순히 무모한 주장이라고 치부하기는 어렵습니다. 미국만 AI의 개발 속도를 늦추는 동안 중국이 계속해서 발전한다면 어떻게 할 것인가라는 질문이 남기 때문입니다. 강력한 AI가 미래의 경제력과 군사력, 정보력과 과학기술의 우위를 결정할 수 있다고 믿는 국가의 지도자에게 “다른 나라가 어떻게 하든 우리부터 속도를 늦추자”고 요구하는 것은 결코 간단한 일이 아닙니다. 그런데 흥미로운 것은 중국의 반응입니다.
중국은 정반대의 이야기를 합니다
9월 14일 중국 외교부 궈자쿤(郭嘉昆) 대변인은 미국에서 제기되는 중국 AI 위협론에 반발했습니다. 그는 위협을 과장하고 대립과 악성 경쟁을 벌이는 것은 세계적인 AI 거버넌스를 탈선시킬 뿐이라는 취지로 비판했습니다. 중국 외교부가 최근 공식적으로 반복해 온 표현을 보면 그들의 논리는 분명합니다. AI의 발전은 “인류 공동의 복지”와 관련된 문제이며, 개방적이고 포용적이며 모두에게 이익이 되는 방향으로 AI를 발전시켜야 한다는 것입니다.
AP — Beijing hits back at Anthropic CEO’s call to curb China’s AI development
중국 외교부 — Foreign Ministry Spokesperson Guo Jiakun’s Regular Press Conference, September 10, 2026
표면적으로 보면 미국과 중국의 주장은 정반대입니다. 미국에서는 “우리가 늦추면 중국이 이긴다”는 주장이 나옵니다. 중국에서는 “중국을 위협으로 규정하고 기술 발전을 봉쇄하는 것이 오히려 국제적인 AI 협력을 망친다”고 반박합니다. 그런데 조금 떨어져서 바라보면 두 주장 사이에서 기묘한 공통점을 발견할 수 있습니다.
서로 상대방을 믿지 못하기 때문에 먼저 속도를 늦출 수 없다는 것입니다.
미국은 자신들이 AI 개발을 늦추는 동안 중국이 앞서갈 것을 두려워합니다. 중국은 미국이 말하는 AI 안전과 통제가 실제로는 중국의 기술 발전을 억제하고 미국의 우위를 영구화하기 위한 수단이 될 것을 의심합니다. 어느 한쪽의 우려가 전적으로 근거 없다고 말하기도 어렵습니다. 바로 그렇기 때문에 이 문제는 더욱 위험합니다.
아무도 파국을 원하지 않아도 파국을 향해 달릴 수 있습니다
상대방이 멈추지 않을 것이라고 생각하기 때문에 나 역시 멈출 수 없습니다. 내가 멈추지 않기 때문에 상대방 역시 더욱 속도를 높여야 합니다. 그러면 어느 누구도 파국을 원하지 않더라도 경쟁의 구조 자체가 모두에게 가속을 강요할 수 있습니다. 이 대목에서 저는 다시 핵무기의 역사를 떠올리게 됩니다. 냉전 시대 미국과 소련이 핵무기를 계속 축적한 이유가 서로 핵전쟁을 원했기 때문만은 아니었습니다. 오히려 상대방이 더 강력한 무기를 갖게 될 가능성을 두려워했기 때문에 자신도 더 강력하고 더 많은 무기를 필요로 했습니다. 상대방의 군비 증강은 나의 군비 증강을 정당화했고, 나의 군비 증강은 다시 상대방의 군비 증강을 정당화했습니다. AI에서 그와 비슷한 악순환이 만들어지지 않으리라는 보장은 어디에도 없습니다. 더구나 이번에는 국가만 경쟁하는 것도 아닙니다. 국가 안에서는 여러 기업이 경쟁하고 있고, 그 기업들은 다시 세계시장에서 경쟁하고 있습니다. 한 기업이 안전을 위해 개발 속도를 늦추면 다른 기업이 먼저 더 강력한 모델을 내놓을 수 있습니다. 한 국가가 안전을 위해 자국 기업에 엄격한 기준을 적용하면 규제가 느슨한 다른 국가의 기업이 앞서나갈 수도 있습니다. 그렇다면 누구에게 먼저 브레이크를 밟으라고 요구해야 할까요?
“We Must Pace the Frontier”
이 질문이 더욱 의미심장한 것은 AI를 직접 만드는 사람들 사이에서도 이제 같은 문제를 공개적으로 이야기하기 시작했다는 점입니다. 앤트로픽(Anthropic)의 공동창업자이자 CEO인 다리오 아모데이(Dario Amodei)는 2026년 9월 발표한 글에 매우 직설적인 제목을 붙였습니다.
“We Must Pace the Frontier.”
말 그대로 AI 최전선의 발전 속도를 조절해야 한다는 주장입니다.
다리오 아모데이 — We Must Pace the Frontier
이 글에서 눈여겨볼 것은 아모데이가 AI 자체를 비관적으로 바라보는 사람이 아니라는 점입니다. 그는 AI가 주요 질병의 치료를 앞당기고 경제성장을 가속하며 인간의 삶을 크게 개선할 수 있다고 믿는다고 밝힙니다. 그럼에도 최근 몇 달 동안 자신의 생각이 달라졌다고 말합니다. 단순히 위험을 연구하는 것만으로는 충분하지 않으며, 위험을 예방하는 기술과 제도가 따라잡을 시간을 확보할 수 있도록 AI 능력이 발전하는 속도 자체를 조절할 필요가 있다고 판단했다는 것입니다. 여기서 ‘pacing’은 AI 연구를 중단한다는 뜻이 아닙니다. 모델 훈련이나 기술 발전을 멈추는 것이 아니라, AI의 능력을 발전시키면서 그 모델을 정렬하고 보호하고 평가할 충분한 시간을 확보하자는 것입니다. 그리고 그 안전성을 기업 스스로 선언하는 데 그치지 않고 제3자가 검증할 수 있도록 하자는 것입니다. 저는 이 구분이 매우 중요하다고 생각합니다. 자동차의 엔진 출력을 높이는 기술만 발전하고 제동장치가 그 속도를 따라가지 못한다면 그것을 온전한 진보라고 부를 수 있을까요? 더 빨리 달릴 수 있게 되었다면 그만큼 더 확실하게 멈출 수도 있어야 합니다. AI도 마찬가지입니다. AI가 인간보다 더 많은 일을 할 수 있게 되는 속도만큼 우리는 AI가 무엇을 하고 있는지 이해하고, 위험한 행동을 발견하고, 필요할 경우 제한하고, 문제가 발생했을 때 개입할 수 있는 능력도 발전시켜야 합니다.
그러나 아모데이 역시 중국이라는 문제를 피하지 못합니다
여기서 더욱 흥미로운 부분이 있습니다. 아모데이 역시 단순히 “미국부터 AI 개발을 늦추자”고 주장하지 않습니다. 그는 미국과 민주주의 국가들이 지나치게 속도를 늦춰 중국이 앞서게 된다면 그것 역시 중대한 안보 위험이 될 수 있다고 봅니다. 중국에 강력한 AI 칩과 첨단 반도체 제조장비를 판매해서는 안 되며, 첨단 모델의 기술 유출도 막아야 한다고 주장합니다. 그러면서 동시에 궁극적으로는 중국을 포함한 세계적인 조정이 필요하다고 말합니다. 그가 제시한 단계 가운데 가장 높은 수준은 바로 ‘Global Coordination’, 즉 세계적인 조정입니다. 여기에서도 문제의 핵심은 다시 검증으로 돌아옵니다. 미국이 중국도 속도를 늦출 것이라고 믿고 AI 개발을 크게 제한했는데 중국이 약속을 어긴다면 미국 입장에서는 치명적인 전략적 실패가 될 수 있습니다. 반대로 중국이 미국의 약속을 믿고 속도를 조절했는데 미국 기업들만 계속해서 더 강력한 AI를 개발한다면 중국이 그러한 합의를 받아들일 이유가 없습니다. 따라서 “서로 믿자”는 말만으로는 부족합니다.
필요한 것은 신뢰가 아니라 검증 가능한 신뢰입니다
여기에서 핵무기의 역사가 다시 한번 중요한 교훈을 줍니다. 냉전기의 군비통제가 가능했던 이유는 미국과 소련이 서로를 신뢰했기 때문이 아닙니다. 오히려 그 반대였습니다. 서로를 믿지 않았기 때문에 협정과 사찰, 감시와 검증의 장치를 만들었습니다. 상대방이 약속을 지키고 있는지 확인할 수 있어야 자신도 약속을 지킬 이유가 생겼습니다. 완벽하지는 않았지만, 인간은 적어도 핵무기를 둘러싼 경쟁에서 한 가지 중요한 원칙을 배웠습니다.
신뢰할 수 없을수록 검증할 수 있어야 한다는 것입니다.
AI에서도 같은 원리가 필요하다고 생각합니다. 어떤 수준 이상의 강력한 모델을 누가, 어디에서, 어느 정도 규모로 훈련하고 있는지 완벽하게 공개할 필요는 없을지 모릅니다. 그러나 적어도 위험이 큰 시스템에 대해서는 공통의 안전평가 기준이 있어야 하고, 개발 기업이 스스로 작성한 보고서만이 아니라 독립된 제3자가 일정 수준까지 검증할 수 있어야 합니다. 심각한 사고나 예상하지 못한 능력이 발견되었을 때 이를 보고하는 의무도 필요할 것입니다. 생물학·화학·사이버 공격과 같은 고위험 능력을 어느 수준부터 특별히 관리할 것인지도 국제적으로 논의해야 합니다. 무엇보다 중요한 것은 특정 회사가 “우리 모델은 안전합니다”라고 선언하는 것만으로 충분하지 않은 체계를 만드는 일입니다. 안전은 홍보 문구가 아니라 확인 가능한 사실이어야 합니다. 그리고 이런 기준이 한두 국가에서만 작동해서도 곤란합니다. 가장 앞선 AI를 개발할 수 있는 국가와 기업들이 최소한의 공통 기준을 받아들이고, 서로 그 기준을 준수하고 있는지 확인할 수 있어야 합니다. 아마 그 과정은 몹시 어려울 것입니다. AI는 핵무기보다 훨씬 널리 쓰이는 범용 기술이고, 소프트웨어는 핵탄두보다 쉽게 복제되고 이동합니다. 무엇을 측정하고 어떻게 검증할지부터 합의하기 어렵습니다. 국가마다 정치체제와 가치관도 다르고, 기업에는 영업비밀과 지적재산권이 있습니다. 그러므로 AI를 핵무기처럼 관리하면 된다는 단순한 이야기를 하려는 것은 아닙니다. 그러나 어렵다는 것과 불필요하다는 것은 전혀 다른 이야기입니다. 우리가 아직 완벽한 방법을 갖고 있지 않다는 사실은 아무런 방법도 찾지 않아도 된다는 이유가 될 수 없습니다.
기업의 선의만으로는 충분하지 않습니다
여기에서 또 하나 짚고 넘어가야 할 문제가 있습니다. 현재 가장 강력한 AI를 만드는 주체는 대부분 국가기관이 아니라 민간기업입니다. 이 기업들에는 뛰어난 연구자들이 있고, 실제로 안전 문제를 진지하게 고민하는 사람들도 많습니다. 다리오 아모데이의 글 자체가 그 좋은 사례일 것입니다. 하지만 저는 그 사실만으로 안심해서는 안 된다고 생각합니다. 기업은 기업입니다. 투자를 받고, 매출을 만들어야 하며, 시장점유율을 경쟁해야 합니다. 경쟁사가 더 강력한 모델을 공개했을 때 자신들만 안전을 이유로 반년이나 1년 뒤처질 수 있는 기업이 얼마나 될까요? 최고경영자가 아무리 안전에 진지해도 주주와 투자자, 경쟁사와 국가안보라는 압박에서 완전히 자유로울 수는 없습니다. 바로 그렇기 때문에 사회는 중요한 산업에서 “기업이 알아서 잘할 것”이라고 기대하는 데 그치지 않습니다. 비행기의 안전을 항공사에게만 맡기지 않습니다. 의약품의 안전성을 제약회사가 최종적으로 결정하게 하지 않습니다. 은행이 스스로 건전성을 평가한 뒤 “문제없다”고 선언하는 것만으로 금융감독을 끝내지도 않습니다. 그 기업들이 악해서가 아닙니다.
안전을 판단하는 사람과 안전 여부에 경제적 이해관계를 가진 사람이 완전히 같아서는 안 되기 때문입니다.
AI라고 해서 예외일 이유가 있을까요? 특히 사회 전체에 중대한 영향을 줄 정도의 최첨단 AI라면 기업의 자율적인 안전정책 위에 독립적인 감독과 검증이라는 두 번째 층이 반드시 필요하다고 생각합니다.
아무것도 하지 않는 것 역시 하나의 선택입니다
규제에 대해 이야기하면 늘 따라오는 반론이 있습니다. 아직 일어나지 않은 위험을 걱정해서 기술의 발전을 막아서는 안 된다는 것입니다. 일리가 있는 말입니다. 과도하게 성급한 규제는 기술 발전을 방해할 수 있습니다. 큰 기업만 감당할 수 있는 막대한 규제 비용을 만들어 오히려 시장의 독과점을 강화할 수도 있습니다. 안전이라는 이름으로 정부가 표현과 연구의 자유를 과도하게 침해할 가능성도 경계해야 합니다. 그러므로 AI 규제라면 무엇이든 좋은 것은 아닙니다. 좋은 규제와 나쁜 규제를 구분하는 일도 중요합니다. 하지만 여기에서 자주 빠지는 함정이 있습니다.
규제하지 않는 것은 아무것도 하지 않는 중립적인 상태가 아니라는 점입니다.
아무런 공적 규칙을 만들지 않는다면 우리는 사실상 가장 강력한 AI를 보유한 기업과 국가들에게 기술의 발전 방향, 위험의 허용 수준, 안전장치의 범위를 정할 권한을 맡기는 것입니다. 그것 역시 하나의 정책 선택입니다. 그리고 기술이 충분히 강력해진 뒤 문제가 발생했을 때 규칙을 만드는 것은 지금보다 훨씬 어렵고 훨씬 비쌀 수 있습니다. 역사는 위험한 기술을 둘러싼 제도가 대개 사고와 비극 뒤에 만들어졌다는 사실을 반복해서 보여줍니다. 우리는 비행기가 추락한 뒤 항공안전 규칙을 강화했고, 금융위기가 터진 뒤 금융규제를 손봤으며, 산업재해가 발생한 뒤 안전기준을 강화했습니다. 인간은 대체로 사고를 당한 뒤 배우는 데 익숙합니다. 그러나 어떤 기술에서는 첫 번째 큰 사고가 너무 큰 대가를 요구할 수도 있습니다. AI가 그런 기술인지 아직 누구도 확실히 알지 못합니다. 바로 그렇기 때문에 저는 위험이 확실해질 때까지 기다리는 것이 반드시 현명한 태도라고 생각하지 않습니다.
우리는 히로시마를 기다려야 하는가
다시 1945년으로 돌아가 보겠습니다. 7월 16일 뉴멕시코 사막에서 트리니티 핵실험이 성공했을 때 인류는 처음으로 자신이 만들어낸 새로운 힘을 직접 목격했습니다. 그리고 불과 21일 뒤인 8월 6일 오전 8시 15분, 히로시마에서 그 힘이 인간에게 사용되었을 때 어떤 일이 일어나는지를 알게 되었습니다. 여기서 제가 하고 싶은 질문은 단순합니다.
우리는 AI에서도 그런 순간이 필요할까요?
AI가 얼마나 위험할 수 있는지를 모든 사람이 인정할 정도의 대형 사고가 일어나고, 수많은 피해자가 발생하고, 그제야 세계 각국이 긴급히 모여 안전규칙을 만들어야 할까요? 저는 그러지 않았으면 합니다. 물론 지금의 AI에 대한 우려가 훗날 과장된 것으로 판명될 가능성도 있습니다. 저는 오히려 그렇게 되기를 바랍니다. 수십 년 뒤 사람들이 2020년대의 기록을 읽으며 “당시 사람들은 AI를 너무 걱정했군” 하고 웃을 수 있다면, 그것은 나쁜 결말이 아닙니다. 위험을 걱정해 안전장치를 만들었는데 결국 큰 사고가 일어나지 않았다면 우리는 그 안전장치가 불필요했다고 단정할 수도 없습니다. 안전벨트를 매고 사고가 나지 않았다고 해서 안전벨트가 필요 없었던 것은 아니기 때문입니다. 반대의 경우를 생각해 보아야 합니다. 우리가 지금 보고 있는 AI의 발전이 정말로 산업혁명이나 인터넷의 등장에 버금가거나 그보다 더 큰 변화의 시작이라면 어떨까요? 혹은 우리가 아직 정확히 이해하지 못한 위험을 가진 기술을 지금 경쟁적으로 더 강하게 만들고 있는 것이라면 어떨까요? 그렇다면 미래의 사람들은 틀림없이 지금 이 시대를 돌아볼 것입니다. 그들은 우리가 무엇을 알고 있었는지 물을 것입니다. 연구자들이 위험을 경고했다는 사실도 알게 될 것입니다. 기업의 경영자들이 스스로 속도 조절의 필요성을 이야기했다는 사실도 읽게 될 것입니다. 미국과 중국이 서로 상대방 때문에 먼저 멈출 수 없다고 주장했다는 사실도 기록으로 남아 있을 것입니다. 그러면 다음 질문은 피할 수 없습니다.
“그들은 위험의 가능성을 알고 있었는데, 무엇을 했는가?”
그 질문에 우리가 남겨야 할 답은 “경쟁에서 뒤처질까 봐 아무것도 하지 않았다”여서는 안 됩니다.
역사를 공부하는 이유
우리가 역사를 공부하는 이유는 과거 사람들의 잘못을 안전한 현재에서 비난하기 위해서만은 아닐 것입니다. 과거의 사람들이 어떤 조건에서 어떤 선택을 했고, 그 선택이 어떤 결과를 가져왔는지를 살펴봄으로써 비슷한 선택이 우리 앞에 놓였을 때 조금이라도 더 나은 결정을 하기 위해서일 것입니다. 핵시대의 역사는 우리에게 두 가지를 동시에 보여줍니다. 인간은 자신이 감당하기 어려운 힘을 만들어낼 수 있습니다. 그러나 동시에 그 힘을 두려워하고, 규칙을 만들고, 서로를 감시하고, 완벽하지 않더라도 파국을 피하기 위한 제도를 만들어낼 수도 있습니다. AI에서도 우리가 해야 할 일은 아마 그 사이에 있을 것입니다. 공포 때문에 기술을 없애자는 것도 아닙니다. 경쟁 때문에 모든 안전장치를 포기하자는 것도 아닙니다. 기술이 발전하는 만큼 그것을 이해하고 통제하고 검증할 능력을 함께 발전시키자는 것입니다. 기업의 혁신을 살리되 기업의 선의만을 안전장치로 삼지는 말자는 것입니다. 국가들이 경쟁하는 현실을 인정하되 그 경쟁이 모두를 위험하게 만드는 지점에서는 국제적인 규칙을 만들자는 것입니다. 그리고 무엇보다, 사고가 벌어진 다음이 아니라 벌어지기 전에 그 일을 시작하자는 것입니다. 1945년 7월 16일 새벽, 뉴멕시코 사막을 밝혔던 섬광을 바라보던 사람들은 자신들이 새로운 시대의 문을 열었다는 사실만큼은 알고 있었을 것입니다. 그들이 알 수 없었던 것은 그 문 너머에 무엇이 기다리고 있는가였습니다. 어쩌면 우리 역시 지금 비슷한 문 앞에 서 있는지도 모릅니다. 다만 우리에게는 그들에게 없었던 것이 하나 있습니다.
한 번 이미 지나온 역사가 있습니다.
그 역사가 무엇을 가르쳐 주는지를 알고도 외면한다면, 후세에게 “우리는 몰랐다”고 말하기는 어려울 것입니다. 훗날 역사가들이 2020년대를 돌아보며 이렇게 기록하게 해서는 안 됩니다.
“그들은 무엇이 다가오고 있는지 알고 있었다. 그러나 아무것도 하지 않았다.”
우리가 AI의 히로시마를 보지 않고도 배울 수 있기를 바랍니다. 그리고 저는 그것이야말로 우리가 지금, AI의 트리니티 모먼트에서 해야 할 일이라고 생각합니다.