스스로 일어서는 그림자
어릴 적, 돋보기로 햇빛을 모아 검은 종이를 태우던 기억이 있습니다. 빛을 한 점에 모으기까지 팔은 미세하게 떨리고, 초점은 계속 흐트러집니다. 종이가 타들어가기 시작하는 그 순간은, 수많은 실패한 시도들이 쌓아 올린 하나의 성공적인 순환 끝에 찾아오는 희열과도 같았습니다.
최근 기술계에서 이야기되는 ‘에이전트 자동화(Agentic Automation)’라는 개념을 접했을 때, 저는 문득 그 돋보기 놀이를 떠올렸습니다. 목표 달성을 위해 스스로 작업을 반복하고 수정하며 나아가는 이 새로운 방식은, 마치 기계가 스스로 돋보기의 초점을 맞춰나가는 법을 배우는 것처럼 느껴집니다.
이는 단순히 명령을 한 번 수행하고 멈추는 자동화와는 결이 다릅니다. 그것은 스스로 자신의 결과물을 평가하고, 부족한 점을 찾아내고, 다시 시도하는, 일종의 기계적 성찰(Mechanical Reflection)에 가깝습니다.
순환의 공학, 인간의 사유를 닮다
‘루프(Loop)’를 통해 자동화 에이전트의 완성도를 높이는 개념의 핵심은 간단합니다. AI에게 ‘A라는 결과물을 만들어’라고 지시하는 대신, ‘A라는 목표에 도달할 때까지 이 과정을 반복해’라고 설계하는 것입니다. 이 방식은 놀랍도록 우리의 지적 활동을 닮았습니다.
가령 글을 쓰는 작가는 초고를 작성한 뒤, 다시 읽으며 어색한 표현이나 논리적 비약을 찾아내고 더 나은 단어를 고르며 문장 구조를 바꿉니다. 이러한 자기 평가와 수정의 고리를 반복하며 전하고자 하는 메시지가 명확해졌다고 판단될 때 비로소 다음 단계로 나아갑니다.
AI 에이전트 또한 이와 유사한 과정을 따릅니다. 주어진 프롬프트를 기반으로 초기 결과물(코드, 텍스트 등)을 생성한 뒤, ‘오류 없이 실행되는가?’ 또는 ‘핵심 주장을 명확히 전달하는가?’와 같이 미리 정의된 기준에 따라 스스로 결과물을 평가합니다. 만약 기준에 미치지 못하면, 오류를 수정하거나 더 효율적인 논리로 결과물을 재작성하는 과정을 목표에 도달할 때까지 되풀이합니다. 불완전함 속에서 완전함을 향해 나아가는 순환의 과정, 바로 이 지점에서 기계의 작업 방식이 인간의 사유를 모방하기 시작합니다.
우리는 이제 ‘질문’을 설계한다
이러한 변화 앞에서 어떤 이들은 인간 역할의 축소를 우려할지도 모릅니다. 하지만 저는 오히려 우리의 역할이 더욱 본질적인 차원으로 이동하고 있다고 생각합니다. 이제 우리는 ‘무엇을 할 것인가’를 지시하는 것을 넘어, ‘무엇이 좋은 것인가’를 정의하는 설계자가 되어가고 있습니다.
AI 에이전트에게 ‘훌륭한 시를 쓸 때까지 계속 고쳐 써라’고 지시하려면, 우리는 먼저 ‘훌륭한 시’가 무엇인지에 대한 기준을 AI에게 알려주어야 합니다. 은유의 독창성, 운율의 조화, 감정의 깊이 같은 추상적인 가치들을 기계가 이해할 수 있는 ‘평가 기준’으로 번역해야 하는 과제가 우리에게 주어집니다.
결국 우리는 기계에게 일을 시키는 것이 아니라, 기계의 작업 철학을 만드는 셈입니다. 이는 우리 자신에게 되묻는 질문이기도 합니다. 나에게 ‘좋은 결과물’이란 무엇인가? 내가 추구하는 가치는 어떤 기준들로 이루어져 있는가?
반복의 끝에서 우리를 발견하다
돋보기로 빛을 모으는 아이는 ‘검은 점을 태운다’는 명확한 목표가 있었습니다. 그 과정에서 수없이 팔을 움직이고 각도를 조절하는 행위는 목표를 향한 무의식적인 순환이었습니다.
스스로 순환하며 성장하는 AI 에이전트는 우리에게 거울과 같습니다. 우리가 무심코 수행하던 사유와 개선의 과정을 기계가 흉내 내기 시작하면서, 우리는 비로소 그 과정의 소중함과 복잡성을 깨닫게 됩니다.
어쩌면 이 기술의 가장 큰 선물은 생산성의 향상이 아닐지도 모릅니다. 스스로에게 질문을 던지고 답을 찾아가는 기계를 설계하면서, 역설적으로 우리는 자신의 생각하는 방식과 존재 이유에 대해 더 깊은 질문을 던지게 될 것입니다. 그 끝없는 고리 안에서, 우리는 어쩌면 기계가 아닌 우리 자신을 발견하게 될지도 모를 일입니다.