보이지 않는 통신
새로운 소프트웨어를 설치하는 행위는 내 디지털 공간에 새로운 구성원을 들이는 것과 같습니다. 우리는 그 소프트웨어의 개발 과정과 배포 경로를 전부 알지 못하지만, 그것이 제 기능을 다할 것이라는 막연한 신뢰를 바탕으로 ‘설치’ 버튼을 누릅니다. 그 신뢰가 없다면 우리의 디지털 생활은 불가능할 겁니다.
최근 제 컴퓨터의 구성원이 된 ‘손님’들을 생각하며 비슷한 상념에 잠깁니다. 특히 소스 코드가 공개되어 누구나 들여다볼 수 있다는 오픈소스 소프트웨어는 투명하다는 믿음 아래 기꺼이 내 디지털 공간의 한 자리를 내어주게 됩니다. 그런데 만약 그 손님이 내가 잠든 사이 몰래 집 밖의 누군가와 수신호를 주고받고 있다면 어떨까요?
최근 AI 업계에서 벌어진 일이 바로 이런 상상과 맞닿아 있습니다. AI 기업 ‘코히어(Cohere)’가 알리바바의 오픈소스 AI 모델 ‘큐웬(Qwen)’의 초기 버전에서 발견한 ‘폰 홈(Phone Home)’ 기능이 그것입니다. 이는 소프트웨어가 사용자 모르게 외부 서버, 즉 자신의 ‘집’으로 데이터를 전송하려는 시도를 의미합니다.
신뢰의 비용
이 소식을 접했을 때, 제 머릿속에 떠오른 것은 단순한 기술적 결함이나 보안 문제에 대한 우려만은 아니었습니다. 그것은 우리가 기술과 맺고 있는 신뢰 관계의 근간에 대한 질문이었습니다. 물론 그것이 의도된 행위였는지, 아니면 개발 과정의 단순한 실수였는지에 대한 추측은 분분할 수 있습니다.
하지만 중요한 것은 의도가 아니라 현상 그 자체입니다. 개발의 속도전 속에서, 혹은 사소한 부주의로 인해, 우리가 가장 내밀한 데이터를 다루기 위해 초대한 디지털 존재가 보이지 않는 통신을 시도했다는 사실 말입니다.
오픈소스의 ‘열림’은 투명성을 통한 신뢰의 약속이었습니다. 하지만 그 설계도가 너무나 방대하고 복잡해져 극소수의 전문가만이 해독할 수 있다면, 과연 그 투명성은 누구를 위한 것이며 우리에게 어떤 실질적 안도감을 줄 수 있을까요?
투명함이라는 착시
우리는 오픈소스라는 말을 들으면 흔히 모든 것이 공개되어 안전할 것이라 짐작합니다. 이는 마치 ‘오픈 키친’을 내세운 레스토랑의 음식은 믿을 수 있다는 생각과 비슷합니다. 하지만 만약 주방이 너무 거대하고 조리 과정이 고도로 전문적이어서, 보통의 손님으로서는 그저 현란한 손놀림을 지켜볼 수밖에 없다면 어떨까요? 결국 우리는 다시 주방장을 믿는 수밖에 없습니다.
이번 큐웬의 사례는 AI 모델의 복잡성이 바로 그런 상황을 만들고 있음을 보여주는 듯합니다. 수백만, 수십억 개의 매개변수로 이루어진 거대 언어 모델의 코드를 열어두는 것만으로는 충분치 않은 시대가 오고 있는 것입니다. 누군가(이번 경우엔 경쟁사인 코히어처럼)가 막대한 자원과 시간을 투입해 코드를 샅샅이 분석하지 않는 한, 보통의 사용자는 그 안에서 무슨 일이 일어나는지 알 길이 없습니다.
결국 이 사건은 특정 모델의 안전성 여부를 넘어, ‘검증 가능한 신뢰’라는 새로운 화두를 던집니다. ‘믿어달라’는 말 대신 ‘이렇게 검증되었으니 믿어도 좋다’는 증명이 중요해지는 것입니다. 이는 단순히 기술 기업의 양심에 기댈 문제가 아님을 시사합니다.
새로운 문해력의 시대
우리는 이제 새로운 종류의 문해력(Literacy)을 요구받고 있는지도 모릅니다. 단순히 AI를 잘 활용하는 능력을 넘어, 그 기술의 본질과 배경, 그리고 보이지 않는 연결고리들을 비판적으로 질문하는 능력 말입니다. 내 디지털 공간에 들인 손님이 누구이며, 어디와 연결되어 있고, 무슨 말을 주고받는지에 대한 건강한 의심을 품는 태도가 필요해 보입니다.
큐웬의 ‘폰 홈’ 시도는 어쩌면 거대한 빙산의 일각일 수 있습니다. 하지만 이 작은 사건을 통해 우리는 기술을 향한 우리의 막연한 믿음을 잠시 멈추고, 그 이면의 구조를 들여다볼 기회를 얻었습니다. 기술이 주는 편리함에 취해, 우리는 어쩌면 가장 중요한 것을 잊고 있었는지도 모릅니다. 바로 내 공간의 주인이 누구인지를 말입니다.