독자의 질문: AI가 스스로 일하는 법을 배운다는 것
Q. 최근 ‘AI 에이전트’ 혹은 ‘에이전틱(Agentic) AI’라는 말을 자주 듣습니다. 특정 AI를 이용해 복잡한 일을 자동으로 시킨다고 하더군요. 프로그래머가 아닌 저에게는 너무 어렵게 들립니다. 대체 이게 무엇인가요?
좋은 질문입니다. 새로운 기술 용어에 압도될 필요는 없습니다. 저는 이 현상을 ‘기계에게 심부름이 아닌 임무를 맡기는 일’이라고 설명하고 싶습니다. 과거의 자동화는 정해진 순서대로만 움직이는 기계 팔이나 소프트웨어 매크로처럼, 매우 구체적인 지시사항 목록을 따르는 것에 가까웠습니다.
하지만 ‘에이전틱 AI(Agentic AI)’는 다릅니다. 이것은 AI에게 ‘이 보고서를 요약해줘’라는 단일 명령을 넘어, ‘최근 출시된 경쟁사 제품 X에 대한 온라인 반응을 조사하고, 긍정적, 부정적, 중립적 의견으로 분류한 뒤, 핵심 동향을 담은 보고서 초안을 작성해줘’와 같이 훨씬 넓은 차원의 목표, 즉 ‘임무’를 부여하는 것에 가깝습니다.
여기서 핵심은 AI가 스스로 ‘관찰-판단-행동’의 ‘순환(Loop)’ 구조 안에서 움직인다는 점입니다. 스스로 계획을 세우고(Plan), 실행한 뒤(Execute), 그 결과를 평가하고(Evaluate), 다음 행동을 수정하는(Refine) 과정을 목표를 달성할 때까지 반복하는 것이죠. 마치 우리가 어떤 일을 할 때 중간중간 진행 상황을 살피며 방향을 수정하는 모습과 닮아 있습니다.
답변: 기계에게 ‘의도’를 가르치는 일
단순 반복을 넘어선 ‘사유의 고리’
이 ‘순환’ 구조가 중요한 이유는, 그것이 기계에게 일종의 ‘사유의 틀’을 제공하기 때문입니다. 우리는 AI에게 코드 한 줄 한 줄을 지시하는 대신, 좋은 결과란 무엇인지, 어떤 기준을 따라야 하는지에 대한 ‘원칙’과 ‘의도’를 알려줍니다.
예를 들어, 앞서 언급한 시장 조사 임무를 수행하는 AI는 먼저 온라인 반응을 수집하고 분류하는 첫 단계를 수행할 겁니다. 그리고 멈춰서 스스로에게 묻습니다. ‘내가 ‘긍정적 반응’으로 분류한 기준이 너무 편향되진 않았나? 혹시 놓친 주요 커뮤니티는 없는가?’ 만약 부족한 점을 발견하면, 스스로 검색 키워드를 수정하거나 분석 기준을 보강해 다음 단계를 진행합니다. 이것이 바로 목표 지향적 자율성(Goal-Oriented Autonomy)의 시작점입니다.
이는 정해진 선로만 따라가는 기차와, 목적지를 향해 스스로 길을 찾는 자율주행 자동차의 차이와도 같습니다. 기차는 선로가 끊기면 멈추지만, 자동차는 막다른 길을 만나면 다른 길을 탐색할 줄 압니다.
왜 대규모 언어 모델(LLM)이 중요한가
이러한 자율적 판단 과정의 중심에는 GPT나 클로드(Claude)와 같은 대규모 언어 모델(LLM)이 있습니다. AI가 자신의 행동 결과를 ‘평가’하고 다음 계획을 ‘수립’하는 과정은, 본질적으로 복잡한 맥락과 미묘한 뉘앙스를 이해하는 언어적, 논리적 추론 능력을 바탕으로 하기 때문입니다.
AI는 인간의 자연어로 작성된 지시(의도)를 이해하고, 자신이 수행한 결과가 그 지시에 부합하는지를 언어적으로 분석합니다. 스스로 생성한 코드나 글을 다시 읽고 논리적 오류나 어색한 표현을 찾아내는 행위는, 기계가 자신의 작업물에 대해 비평적 거리를 확보하기 시작했다는 중요한 신호입니다.
과거의 자동화가 ‘명령(Command)’의 영역이었다면, 에이전트 자동화는 ‘의도(Intent)’의 영역으로 넘어온 셈입니다. 우리는 이제 기계의 손발이 아니라, 기계의 지성을 빌려 일하게 됩니다.
성찰: 우리는 이제 무엇을 해야 하는가
Q. 스스로 판단하고 일을 처리하는 AI라니, 편리하면서도 한편으론 제 역할이 사라지는 것 같아 불안합니다. 우리는 이제 어떤 일을 해야 할까요?
그 불안감은 지극히 자연스러운 감정입니다. 저 역시 비슷한 감정을 느끼곤 합니다. 하지만 저는 이 변화가 인간의 역할을 소멸시키는 것이 아니라, 더 높은 차원으로 이동시킨다고 믿습니다.
우리는 이제 반복적인 ‘실행자’에서 ‘질문의 설계자’이자 ‘목표의 정의자’로 진화하고 있습니다. 어떤 시장 반응이 ‘의미 있는’ 것인지, 어떤 분석이 ‘핵심적인’ 통찰인지, 궁극적으로 우리가 이 일을 ‘왜’ 하는지를 정의하고 판단하는 역할은 여전히, 그리고 더욱 중요하게 우리에게 남습니다.
AI 에이전트를 구축하고 활용하는 과정은 결국 우리 자신의 업무 철학을 성문화(codify)하는 과정과 같습니다. 나의 업무 프로세스, 나의 판단 기준, 나의 가치 체계를 명확한 언어로 번역해 AI에게 가르쳐야 하기 때문입니다. 이 과정은 역설적으로 우리 스스로를 더 깊이 이해하게 만드는 거울이 될 수 있습니다.