그들이 보는 AI 안전 표준 기구의 미래, NPT 그리고 IAEA

 

- 관련 기사

• "AGI 도래, 몇 년 안 남아"…하사비스, 글로벌 'AI 안전 표준 기구' 제안(link)

 

현재 AI 업계는 극도로 치열한 상업적 · 지정학적 경쟁 속에서 기술의 진보가 인간의 이해를 앞지르고 있다. 사이버 보안 리스크와 핵·생화학적 위협, 스스로를 개선하는 재귀적 시스템의 통제력 상실, 안전 가드레일을 우회하거나 기만하는 징후까지 나타나는 만큼 이를 규제할 심판이 필요하지 않겠느냐는 것이다.

 

그가 제안한 것은 미국 금융산업규제기구(FINRA)를 모델로 한 미국 주도의 민관 합동 ‘프런티어 AI 표준 기구’다. 업계의 자금으로 지원받지만 운영은 미국 정부가 한다. 기구가 정한 과학적 벤치마크를 충족하는 모델을 '프런티어 급', 보유 조직을 '프런티어 랩'으로 지정(단, 혁신 보호를 위해 스타트업과 학계는 규제 대상에서 전면 제외)하며 아래와 같은 평가 및 검증 절차, 권한이 있다.

• 초기에는 출시 30일 전 모델을 자발적으로 공유해 검토
• 시스템 안착 후에는 미국 시장 배포를 위한 필수 의무 조항으로 공식화
• 사이버 · 생물학적 위협 평가, 기만 징후 탐색, 이미지 디지털 워터마크 삽입, 인간이 읽을 수 있는 출력 토큰 생성 등을 검증
• 위험 수준에 따라 프런티어 랩 간의 개발 속도 조절(감속)을 조정하는 등의 단계적 강화 조치 시행

 

이 내용을 보다보니 내 머리에서 떠오른 건 이거였다.

 

'이거... NPT, IAEA 아닌가?'

 

---

NPT(Non-Proliferation Treaty)

핵무기의 확산을 방지하고 핵군축을 촉진하며, 원자력을 평화적으로 이용하기 위해 체결된 대표적인 국제 조약으로 1968년에 체결되어 1970년에 효력이 발생했으며, 현재 전 세계 거의 모든 국가가 가입해 있는 강력한 국제 규범이다. 핵심은 아래와 같다.

• 핵확산 방지(Non-proliferation): 1967년 1월 1일 이전에 이미 핵무기를 보유한 5개국(미국, 러시아, 영국, 프랑스, 중국) 외에 다른 국가가 새롭게 핵무기를 가지는 것을 절대 금지한다.
• 핵군축(Disarmament): 핵을 합법적으로 인정받은 5개 보유국들은 자신들이 가진 핵무기를 점진적으로 줄이고, 궁극적으로 폐기하기 위해 성실하게 협상해야 할 의무를 진다.
• 원자력의 평화적 이용(Peaceful use of nuclear energy): 핵무기를 개발하지 않는 미보유국들에게는 원자력 발전, 의학 연구 등 평화적 목적의 원자력 기술을 자유롭게 이용하고 이전받을 권리를 보장한다.

IAEA(International Atomic Energy Agency)

원자력의 평화적 이용을 장려하고, 이를 통한 핵무기 확산을 막기 위해 설립된 유엔(UN) 산하의 독립 국제기구다. 1953년 미국 아이젠하워 대통령의 "원자력의 평화적 이용(Atoms for Peace)" 제안을 계기로 논의가 시작되어 1957년에 정식 출범했다. 핵심은 아래와 같다.

• 핵사찰과 검증 - 가장 강력한 권한: 각국이 원자력 발전소 등 평화적 시설을 운영하면서 물밑으로 핵무기를 개발(전용)하고 있지 않은지 현장에 검사관을 파견해 하나하나 직접 뜯어보고 사찰한다(NPT 조약의 실효성을 담보하는 집행 기구 역할을 한다).
• 평화적 이용 및 기술 협력: 핵무기 개발을 하지 않는 국가들에게 원자력 발전, 방사선 의학 연구, 농업 기술 등 평화적 목적의 원자력 기술을 안전하게 이전하고 지원한다.
• 원자력 안전 기준 설정: 체르노빌이나 후쿠시마 사태 같은 원전 사고를 방지하기 위해 전 세계 원자력 시설의 안전 기준을 수립하고 통제한다.

 

핵물질 특히 핵무기로 사용될 플루토늄 같은 것이 위험한 건 엄연한 현실이다. 게다가 그런 물질이 잘못 관리되고 핵폭탄 소형화 기술이 이리저리 돌아다니면서 핵배낭 같은 무기로 완성되어 테러 집단에 들어가면 최악의 상황이 되는 것도 사실이다. 그런 위험을 관리하기 위해 만들어진 NPT와 IAEA 체제는 실제로 핵확산을 억제하고 평화적 원자력 이용을 관리해 온 중요한 성과가 있다. 문제는 그 체제가 안전을 확보하는 동시에 기존 보유국과 비보유국 사이의 비대칭도 제도화했다는 점이다. 핵관련 기득권이라 할 수 있는 핵무기 보유국(미국, 러시아, 영국, 프랑스, 중국)은 사실상 의무사찰의 대상이 아니다.

 

'자발적 기탁 협정(Voluntary Offer Agreement)'은 "우리 시설 중에 여기 여기는 사찰해도 돼."라고 리스트(Eligible Facilities List)를 제출하는데 이 리스트는 당연히 군사 시설이나 진짜 핵무기 제조 시설은 쏙 빼고, 순수 상업용 원전이나 민간 연구소 위주로만 목록으로만 작성한다. 근데 그렇게 제출한 리스트 중에서도 국가 안보에 영향이 있다고 판단되면 미국이 언제든지 사찰을 거부하거나 목록에서 제외할 권한을 가진다. 게다가 IAEA도 돈과 인력이 부족하다 보니 제한된 사찰 자원은 자연스럽게 핵무기 비보유국의 검증에 집중될 수밖에 없다. 핵무기 기득권 국가들에게는 이보다 더 '합리적이고 안전한 패권 유지 장치'가 없는 셈이다.

 

---

다시 하사비스의 의견으로 돌아가면 그 방향성 특히 원인이 틀린건 아니다. AI의 기술발전은 너무 빠르며 그것의 오남용과 배포 등에 대한 책임 있는 관리가 필요하다. 하지만 지금 지구상에서 유통되는 AI 서비스의 대부분이 미국 기업임을 생각해 본다면 이런 논의는 과연 순수하게 받아들여질까? 미국 기업이 자금을 대고 미국 정부가 운영하는 이상 그렇게 순수하게 생각할 수만은 없다.

 

그리고 여기에는 가장 중요한 질문이 빠져 있다. 그 안전의 기준을 누가 정하며, 그 기준을 통과하지 못한 AI와 국가는 무엇을 잃게 되는가이다. '프런티어 AI 표준 기구'의 AI 안전평가가 단순한 권고에 머물면 문제가 크지 않다. 하지만 그것이 점차 미국 시장의 제품 승인, 정부조달, 보험, 수출통제, 첨단 칩 접근, 클라우드 이용, 피지컬 AI 인증과 연결된다면 이야기가 달라진다. 그 순간 안전기구는 단순한 감독기관이 아니라, 'AI 시대의 시장 접근권과 기술 사용 자격을 결정하는 국제 인증기구'가 될 수 있다.

관세는 외국 제품을 비싸게 만들지만, AI 인증은 외국 제품을 아예 판매하지 못하게 할 수도 있다. 특히 자동차, 로봇, 드론, 방산, 의료기기처럼 AI가 현실에서 행동하는 제품은 더욱 그렇다. 따라서 현재의 논의가 곧바로 최대 수준의 무역규제라는 뜻은 아니지만 장차 가장 강력한 비관세 장벽으로 발전할 수 있는 인증 인프라의 초기 설계일 가능성은 충분히 경계해야 한다. 마치 핵무기를 선점한 강대국들이 미보유국들의 기술을 사찰하고, 자신들의 안보 기준에 따라 핵기술의 허용 범위와 검증 강도를 구분해 관리하는 NPT · IAEA 체제처럼 말이다.

 

---

미국은 단순히 기술력이 강한 나라가 아니다. 역사적으로 자신이 가진 우위를 국제기구, 규칙, 표준, 금융체계와 시장질서로 전환해 시대를 관리해 왔다. 중요한 것은 패권국이 힘을 잃은 뒤 질서를 만드는 것이 아니라는 점이다. 패권국은 아직 힘이 있을 때 다음 시대의 질서를 미리 만든다. 미국의 AI 우위는 여전히 강하다. 그러나 '과거 윈도처럼 하나의 플랫폼이 세계를 사실상 독점한 상태'는 아니다. 중국의 추격, 오픈소스 모델, 미국 기업들 사이의 경쟁, 막대한 학습비용, 피지컬 AI의 확산 등으로 인해 AI 패권은 아직 완전히 굳어지지 않았다.

따라서 미국은 기업들의 기술적 우위를 그대로 방치하기보다, '기업의 우위 → 미국의 제도 → 국제표준 → 시장 접근권'으로 전환하려 할 가능성이 있다. 이 관점에서 'AI 안전기구' 구상은 미국이 이미 다음 단계의 방어선을 생각하기 시작했다는 신호일 수 있다. 그럼 그 기구는 과연 한국에게 우호적일까? 

 

미국과 일본은 플라자 합의를 맺었다. 1985년 9월 22일의 이 협정 이후 엔화는 빠르게 절상됐고, 일본은 수출 둔화에 대응하기 위해 저금리와 내수 부양 정책을 강화했다. 이후 형성된 자산버블과 그 붕괴, 뒤이은 금융 · 정책 대응 실패는 일본의 장기침체로 이어진 주요 배경 가운데 하나가 됐다. 물론 지금의 한국이 1980년대 일본과 같은 위치라는 뜻은 아니다. 경제 규모와 산업구조, 미중 경쟁이라는 국제환경도 전혀 다르다. 그럼에도 공통적으로 생각해 볼 부분은 있다. 동맹국이라도 패권국의 질서 안에서 독자적인 힘을 빠르게 키우면, 보호해야 할 동맹인 동시에 관리해야 할 변수가 될 수 있다.

 

그런 관점에서 미국이 미국 AI 기업이 자금을 대고 미국 정부가 운영하는 'AI 안전기구'를 얼마나 거칠게 사용할지, 혹은 동맹국과의 상호인증을 통해 유연하게 운영할지는 지금 알 수 없다. 문제는 이 기구가 처음부터 한국을 겨냥하느냐가 아니다. 일단 기준이 만들어진 뒤 그 기준이 미국 시장의 여러 제도와 결합될 경우, 한국의 선택 범위가 점차 그 틀 안으로 수렴할 수 있다는 점이다.

 

---

- 관련 기사

• [AI는 지금] "韓 모델 누락 방지"…글로벌 지표 대응 'AI 3강' 다진다(link)
• 이재명 대통령 "한국형 AI 동맹 필요…미·중 모델 의존도 낮춰야"(link)
• AI 3강 속도내는 배경훈號…취임 1년, AI부터 통신까지(link)

 

한국은 막대한 투자를 통해 세계 AI 3강에 진입하겠다고 공개적으로 말하고 있다. 하지만 ‘3강’이라는 표현은 전략적으로 너무 정면승부의 언어일 수 있다. 미국과 중국에는 다음과 같이 들릴 수 있기 때문이다.

우리는 당신들과 같은 경기장에서, 같은 방식으로 경쟁해 같은 지위를 차지하겠다.

한국이 아직 독자적인 AI 생태계를 완성하지도 않은 상태에서 먼저 경쟁국의 명찰을 다는 셈이다. 특히 한국은 단순한 소프트웨어 국가가 아니다. 반도체, 자동차, 로봇, 조선, 방산, 가전, 스마트팩토리, 통신과 디지털 서비스를 모두 가진 나라다. 이런 국가가 독자 AI 엔진과 판단체계까지 확보하면 AI가 현실로 들어가는 주요 출구를 상당 부분 보유하게 된다. 미국과 중국 어느 쪽에서도 가볍게 볼 수 없는 잠재력이 생기는 것이다.

 

- 관련 글

• F-35 전투기와 앤트로픽 미토스 5: 미국의 ‘21세기형 킬 스위치’ 메커니즘(link)

그래서 한국을 직접 꺾으려는 명시적 계획이 없어도, 한국이 성장하는 통로의 규격을 미리 정해 미국 중심 질서 안의 강한 제조 · 응용국으로 머물게 할 가능성은 생각해 볼 수 있다. 완성된 경쟁자를 공격하는 것보다, 경쟁자가 성장하는 통로의 규격을 먼저 정하는 편이 훨씬 싸고 조용하다.

 

---

한국이 미국과 중국을 따라 '3강'을 외치며 모델 크기, 연산량, 개발 속도만으로 경쟁하면 결국 두 패권국이 만든 경기장에서 세 번째 선수가 되려는 것이다. 그러나 그 경쟁은 자본, 에너지, 컴퓨팅 자원, 플랫폼 규모에서 한국에 너무 불리하다. 

 

하지만 현재 정부의 AI 전략은 과거 경제개발계획의 언어를 많이 닮아 있다.

• 얼마를 투자한다.
• 데이터센터를 몇 개 만든다.
• GPU를 얼마나 확보한다.
• 인력을 몇 명 양성한다.
• 세계 몇 위에 진입한다.

물론 컴퓨팅 인프라와 인재, 데이터센터 투자는 반드시 필요하다. 다만 그것은 한국형 AI 전략의 전부가 아니라 최소한의 기반이어야 한다. 지금 정부의 AI 전략은 고속도로와 제철소, 조선소, 반도체 공장처럼 목표와 생산량이 명확했고, 일본이라는 국가 · 산업 모델도 참고할 수 있었던 과거 경제개발 시대의 접근과 너무 닮아 있다. 그러나 지금 AI 시대에는 참고할 완성된 국가모델이 없다. 따라서 한국이 해야 할 일은 단순히 미국과 중국의 축소판을 만드는 것이 아니라, 현재의 AI 경쟁이 놓치고 있는 새로운 층을 제시해야 한다.

 

한국이 제시할 수 있는 새로운 층은 단순히 더 큰 모델이 아니다. AI가 현실을 충분히 인지했는지, 판단에 필요한 정보가 빠지거나 충돌하지 않았는지, 어떤 법과 문화와 책임구조를 기준으로 행동했는지를 검증할 수 있는 체계다. 또한 하나의 외국 모델에 국가의 지식과 판단을 통째로 의존하지 않고, 여러 모델을 선택하고 교체할 수 있어야 한다. 즉, 미 · 중 다음의 '3번째 AI 플레이어'가 아니라 미 · 중이 미처 닿지 못하고 이루지 못한 '신뢰할 수 있는 온전한 판단의 AI'로 가야 한다. 

 

- 관련 글

• 아폴로 프로젝트에서 배우는 대한민국 3대 메가 프로젝트의 성공 조건(link)
• 제헌절에 생각해 보는 한국형 방산 AI의 미래 - 교전을 넘어 전쟁의 본질을 이해하는 AI(link)

 

그렇게 우리만의 길을 선택한다면, 대한민국의 위상은 스스로 선언한 순위가 아니라 다른 국가들의 선택을 통해 자연스럽게 형성될 것이다.

 

 

 

 

* 이미지는 구글 검색 입니다(사진 1)