경제타임스 김은국 기자 | 인공지능(AI) 산업의 판도가 근본적인 변곡점을 맞이하고 있다. 챗GPT 등장 이후 지난 수년간 글로벌 빅테크 기업들이 벌여온 경쟁이 "누가 더 똑똑하게 답하고 글을 잘 쓰는가"에 머물렀다면, 이제는 "누가 사람의 개입 없이 스스로 복잡한 업무를 완수해내는가"로 전장이 옮겨가고 있다.
사용자의 질문에 텍스트나 이미지를 출력해 주던 생성형 AI 도구의 시대를 지나, 사용자가 제시한 궁극적 목표를 자율적으로 분해하고, 도구를 활용해 직접 실행·검증까지 끝마치는 '에이전틱 AI(Agentic AI·AI 에이전트)'가 차세대 핵심 인프라로 급부상하고 있다.
■ '말하는 비서'에서 '행동하는 실무자'로…패러다임의 대전환
기존 생성형 AI와 AI 에이전트를 가르는 결정적 차이는 '수동적 생성'과 '자율적 행동'에 있다.
과거의 챗봇은 사용자가 구체적인 프롬프트를 입력하면 기학습된 데이터에 기반해 답변을 생성하는 형태였다. 가령 기업 영업 담당자가 "이달 고객사별 매출 변화를 분석하고 다음 달 영업 전략을 수립해달라"고 요청할 경우, 기존 LLM(Large Language Model) 앞에서는 담당자가 직접 사내 ERP에서 매출 엑셀 데이터를 내려받아 업로드하고, 분석 결과를 바탕으로 다시 초안을 짜라고 일일이 지시해야 했다. 분석과 문서 생성의 속도는 빨라졌을지언정, 작업 단계마다 사람의 '손'이 필수적이었다.
반면 AI 에이전트는 하나의 거대한 목표(Goal)를 부여받으면 그 목적을 달성하기 위한 세부 행동 계획(Plan)을 스스로 수립한다. 권한이 부여된 환경이라면 사내 데이터베이스(DB)에 직접 접근해 매출 데이터를 추출하고, 시장 동향을 웹 검색으로 크롤링하며, 경쟁사 동향과 대조·분석한 뒤 최종 보고서 작성과 결재선 상신까지 일련의 연쇄 작업을 막힘없이 수행한다.
일개 질의응답 창구가 아니라, 복수의 업무를 유기적으로 연결해 완결 짓는 '행동하는 AI(Actionable AI)'로 진화한 셈이다.
■ 핵심 동력은 '자율성'과 '도구 사용(Tool Use)'…LLM 크기 경쟁의 종말
AI 에이전트가 작동하는 핵심 메커니즘은 고도의 '자율성(Autonomy)'과 '외부 도구 사용(Tool Use)' 능력이다.
사전에 프로그래밍된 고정 규칙대로만 움직이는 기존의 단순 RPA(Robotic Process Automation, 로봇 프로세스 자동화)와 달리, AI 에이전트는 자연어로 전달된 불확실한 목표를 스스로 쪼개고 추론한다. '다음 주 미국 출장 준비'라는 목표가 떨어지면 출장 일정 확인, 항공권 가격 비교, 호텔 예약, 현지 파트너사 미팅 일정 조율, 출장 품의서 초안 작성 등의 하위 과업(Task)으로 스스로 분해한다. 도중에 원하는 시간대의 항공편이 매진되었거나 데이터 오류가 발생하면 멈추는 것이 아니라, 우회 경로를 탐색해 다른 대안을 찾아내는 유연한 복원력을 지닌다.
이를 실현하기 위한 승부처가 바로 '도구 사용' 역량이다. 아무리 대규모 언어모델의 파라미터가 크더라도, 실제 기업 현장의 전사적자원관리(ERP), 고객관계관리(CRM), 슬랙, 이메일, 클라우드 환경 등 레거시 시스템과 맞물리지 못하면 무용지물이다.
AI 패권의 기준이 '더 거대한 모델(초거대 LLM)'에서 '모델+데이터+도구+업무 시스템'을 매끄럽게 연결하는 생태계 통합 능력으로 완전히 이동하고 있다.
■ 화이트칼라 업무의 재설계…'작업 자동화' 넘어 '워크플로 통폐합'
이 같은 에이전틱 AI의 등장은 사무직(화이트칼라) 업무 환경을 뿌리부터 뒤흔들고 있다.
반복적인 리서치와 보고서 작성, 데이터 정제는 물론 마케팅 캠페인 기획, 영업 리드 발굴, 소프트웨어 개발 및 디버깅, 재무·회계 결산에 이르기까지 전방위적인 결합이 진행 중이다. 기존에는 실무자 한 명이 여러 소프트웨어(엑셀, 메일, ERP, 메신저 등)를 번갈아 켜가며 수작업으로 데이터를 옮겼다면, 이제는 사람이 AI 에이전트에게 미션만 던지고 AI가 각 소프트웨어의 백엔드를 직접 제어하는 구조로 변모하고 있다. 소프트웨어의 사용자 인터페이스(UI) 자체가 사람의 손가락에서 AI의 API 호출로 바뀌는 것이다.
특히 주목할 대목은 '업무 프로세스(Workflow)의 근본적 통폐합'이다. '자료 다운로드 → 데이터 가공 → 시각화 → 보고서 송부'로 이어지던 파편화된 업무 흐름이 에이전트라는 단일 파이프라인 안에서 실시간으로 완결된다. 이는 단순한 근로시간 단축을 넘어, 기업들이 비즈니스 프로세스 자체를 AI 중심으로 완전히 재설계하는 '디지털 전환(DX) 2.0'을 촉발하고 있다.
■ 빅테크의 다음 전장은 '에이전트 플랫폼'…보안과 거버넌스는 과제
에이전트 시대가 열리며 글로벌 테크 기업들의 격전지는 '에이전트 개발 플랫폼'으로 쏠리고 있다. 과거 스마트폰 혁명 당시 개별 앱보다 iOS와 안드로이드라는 운영체제(OS)가 플랫폼 권력을 쥐었던 것처럼, 기업 내부 데이터와 각종 외부 서비스를 한 곳에서 묶어 에이전트를 구동시키는 'AI OS' 성격의 플랫폼을 누가 선점하느냐가 향후 수십 년의 빅테크 서열을 결정할 공산이 크다.
그러나 자율성의 확대는 필연적으로 강력한 보안 리스크를 수반한다. 챗봇의 오답(할루시네이션)은 단순히 잘못된 텍스트를 읽는 데 그치지만, 사내 전산망 접근 권한을 쥔 AI 에이전트의 오작동이나 판단 착오는 데이터 삭제, 기밀 유출, 잘못된 금융 거래 집행 등 치명적인 물리적 피해를 야기할 수 있다. 악의적인 명령을 주입해 권한을 탈취하는 '프롬프트 인젝션' 위협도 현실화됐다.
전문가들은 "무조건적인 자율화 대신 직무별 최소권한 원칙(Least Privilege)을 철저히 적용하고, 최종 결재나 자금 집행 등 민감한 단계에서는 반드시 인간의 승인을 거치도록 하는 '휴먼 인 더 루프(Human-in-the-loop)' 통제 체계를 구축하는 것이 에이전트 도입의 성패를 가를 핵심 거버넌스가 될 것"이라고 입을 모은다.
AI 산업은 이제 '가장 말을 잘하는 AI'를 뽐내던 실험실 단계를 지나, '가장 안전하게 기업의 실무를 대신하는 AI'를 가리는 거대한 엔터프라이즈 실전 레이스에 진입했다.
