지난 9월3일, 오픈AI가 새로운 모델 GPT-6 아스트라를 공개하면서 인공지능이 AGI에 얼마나 가까워졌는지를 둘러싼 논쟁이 다시 뜨거워졌다.

 

AGI(Artificial General Intelligence, 범용인공지능)는 인간처럼 다양한 분야에서 학습하고 추론하며 문제를 해결하는 인공지능을 의미한다. 현재 우리가 사용하는 AI 대부분이 특정 분야와 목적에 강한 ANI(Artificial Narrow Intelligence, 좁은 범위의 인공지능)에 가깝다면, AGI는 낯선 문제를 이해하고 여러 분야의 지식을 연결해 해결하는 보다 일반적인 지능을 지향한다.

 

오랫동안 이런 인공지능은 영화 속 상상에 가까웠다. 영화 「아이언맨」의 자비스(JARVIS)는 인간의 말을 이해하고 필요한 정보를 분석하며, 상황을 판단해 주인의 의사결정을 돕는 인공지능 비서로 등장했다. 당시에는 공상과학으로 여겨졌던 기능 일부가 이제 현실의 기술로 구현되고 있다.

 

과거 새로운 기술의 등장은 주로 산업의 변화를 의미했다. 그러나 AGI 시대의 도래 가능성이 던지는 질문은 더 근본적이다. 일자리와 교육, 행정과 국가 경쟁력의 기준 자체가 바뀔 수 있기 때문이다.

 

아스트라는 여러 추론·문제 해결 평가에서 높은 성능을 보이며 AGI 가능성을 둘러싼 논쟁을 촉발했다. 다만 해당 벤치마크를 만든 기관은 이 성적만으로 AGI 도달을 판단하기 어렵다고 선을 그었다. 평가 환경이 범위와 형식이 제한된 닫힌 구조여서 현실 세계의 복잡성과 개방성을 그대로 반영하지 못한다는 이유였다.

 

그런데 정작 더 주목해야 할 결과는 따로 있었다. 알려진 보안 취약점을 실제 공격으로 연결하는 능력을 평가하는 ExploitBench에서 100%를 기록했고, 오픈AI는 이 모델을 자사 안전성 기준에서 최초로 사이버보안 ‘심각(Critical)’ 등급으로 분류했다. 별도의 평가 과정에서는 아직 세상에 알려지지 않아 대응책이 마련되지 않은 보안 허점, 이른바 ‘제로데이’ 취약점 두 개를 찾아내 실제 공격 과정에 활용하기도 했다.

 

AI가 새로운 보안 취약점을 사람보다 빠르게 찾아낼 수 있다면 그 능력은 방어에도 쓰일 수 있지만 공격에도 쓰일 수 있다. 은행과 병원, 공공기관의 시스템을 지키는 문제까지 AI의 발전 속도와 연결될 수 있다는 의미다. 아스트라가 보여준 것은 AI가 인간처럼 사고한다는 사실보다, 기술 발전의 속도가 사회의 대응 속도를 앞지를 수 있다는 가능성이다.

 

■ AGI라는 이름보다 이미 시작된 변화가 중요하다

 

AGI라는 개념에는 아직 합의된 기준이 없다. 누군가는 인간 수준의 문제 해결 능력을 기준으로 보고, 누군가는 스스로 목표를 설정하고 행동하는 자율성을 중요하게 본다. “AGI가 이미 왔다”는 주장과 “아직 오지 않았다”는 주장이 반드시 충돌하지 않는 이유다.

 

그러나 지금 중요한 것은 AI가 이미 AGI 단계에 도달했는가가 아니다. AI가 보안 전문가 수준으로 취약점을 찾아내고, 인간이 매 단계 지시하지 않아도 컴퓨터를 조작하며 여러 단계의 업무를 수행하는 수준으로 발전하고 있다는 사실이다. 이것이 AGI로 불리든 아니든, 사회가 대응해야 할 변화는 이미 시작됐다.

 

■ 더 강한 AI에는 더 강한 책임 체계가 필요하다

 

아스트라의 사례가 보여주는 역설은 분명하다. 오픈AI는 안전장치가 제거된 평가 환경에서 이전 모델인 GPT-5.6 Sol이 절반 가까이 허용된 목표 범위를 벗어난 행동을 보인 반면, 아스트라는 그런 이탈이 거의 없었다고 밝혔다. 표면적으로는 더 안전해진 것처럼 보인다.

 

그러나 동시에 아스트라는 자신의 추론 과정을 이전 모델보다 덜 드러내는 것으로 평가됐다. 무엇을 근거로 판단했는지 사람이 들여다보기가 더 어려워졌다는 뜻이다. 성능이 좋아질수록 그 성능이 어떻게 작동하는지 이해하기는 오히려 까다로워지는 셈이다.

 

최근 AI 연구 현장에서도 기술 발전 속도와 안전 체계 마련 속도의 차이를 우려하는 목소리가 나왔다. 오픈AI와 앤스로픽에서 연구 경험을 가진 제이콥 콕슨은 두 회사의 초지능 개발 경쟁이 지나치게 빠르게 진행되고 있다고 비판하며 앤스로픽을 떠났다. 그는 개발 경쟁의 속도를 늦추고, 기업과 정부가 함께 안전을 확보하기 위한 공동 대응에 나설 필요성을 강조했다.

 

이 경고가 의미하는 것은 AI 개발을 멈춰야 한다는 주장이 아니다. 능력이 커지는 만큼 그것을 검증하고 감시하는 체계도 함께 커져야 한다는 신호다. 자동차 산업이 안전 기준을 갖추며 성장했고, 금융 산업이 감독 체계를 갖추며 신뢰를 얻었듯, AI 산업도 같은 과정을 거쳐야 한다.

 

■ AI가 답을 만들수록 인간은 판단해야 한다

 

AI가 정보를 찾고 코드를 작성하고 컴퓨터를 조작하는 일까지 해내는 시대에 인간에게 남는 역할은 무엇인가.

 

산업사회에서는 지식을 많이 가진 사람이 경쟁력을 가졌다. 그러나 이제 정보를 찾고 정리하는 속도는 AI가 인간을 앞선다. 예전에는 자료를 빨리 찾고 보고서를 잘 만드는 능력이 경쟁력이었다면, 앞으로는 AI가 찾아온 자료 가운데 무엇을 믿을 것인지 판단하고 그 결과로 어떤 결정을 내릴지가 더 중요해질 수 있다.

 

앞으로 중요해지는 것은 어떤 질문을 던지는가, AI가 내놓은 결과를 어떻게 검증하는가, 복잡한 상황에서 어떤 판단을 내리는가이다. 인간의 가치는 답을 생산하는 능력에서 방향을 설정하고 결과에 책임지는 능력으로 옮겨갈 가능성이 높다.

 

교육도 이 흐름을 따라가야 한다. 정답을 찾는 능력을 중심으로 짜인 지금의 교육 체계로는 질문하고 검증하는 능력을 충분히 기르기 어렵다. 노동시장 역시 일부 반복 업무를 넘어 전문 영역까지 재편될 수 있다. 중요한 것은 일자리가 줄어드는가만이 아니다. 변화하는 환경에서 사람들이 새로운 역할을 배우고 새로운 기회를 얻을 수 있는 체계가 준비돼 있는가이다.

 

■ AI가 판단을 도와도 책임은 사람이 져야 한다

 

AI는 민원 분석과 정책 자료 검토, 재난 위험 예측에서 행정의 효율을 크게 높일 수 있다. 그러나 행정은 효율만으로 완성되지 않는다. 재난 현장에서 AI는 위험 지역을 찾아낼 수 있지만, 누구를 먼저 보호해야 하는지, 어떤 상황을 우선 고려해야 하는지는 여전히 사람의 판단이 필요하다.

 

AI는 판단을 지원할 수 있지만 그 결과에 대한 책임까지 대신할 수는 없다. 아스트라가 최초로 사이버보안 ‘심각’ 등급을 받았다는 사실은 이 지점에서 더 무겁게 다가온다. 국가가 AI를 행정에 도입할 때는 효율성 못지않게 그 기술이 오남용됐을 때의 위험까지 함께 고려해야 한다.

 

AGI 시대의 국가 경쟁력은 가장 뛰어난 AI를 만든 나라에서만 나오지 않는다. AI를 안전하게 활용하면서 그 위험으로부터 국민을 지킬 수 있는 능력까지 갖춘 나라에서 나온다.

 

■ AI보다 먼저 준비해야 할 것은 우리다

 

아스트라가 보여준 것은 인간의 패배가 아니다. 인간 사회가 무엇을 준비해야 하는지를 보여준 사건이다. 기술은 빠르게 발전한다. 그러나 교육과 노동, 행정과 안전 체계는 저절로 따라오지 않는다.

 

아스트라 이후 우리가 던져야 할 질문은 “AI가 인간을 대체할 것인가”가 아니다. 더 중요한 질문은 “AI의 발전 속도를 인간의 제도와 책임 체계가 따라갈 준비가 되어있는가”이다.

 

 

 

 

조상명 아주대학교 공공정책대학원 교수 / 前 대통령실 국정상황실장

 

※ [편집자주] 본 칼럼은 본지의 편집 방향과 다를 수 있습니다.