미래의 문을 두드리는 불안한 예언가
어느 날 아침, 당신의 문을 누군가 두드립니다. 문을 열자 그들은 당신이 ‘아직’ 저지르지 않은, 그러나 앞으로 저지를 가능성이 있다는 이유로 당신을 체포하러 왔다고 말합니다. 공상 과학 영화의 흔한 장면 같지만, 저는 최근 비슷한 종류의 서늘함을 느끼게 한 소식을 접했습니다.
한 AI 기업이 특정 사상이나 활동을 하는 이들을 감시하고, 그들의 ‘잠재적’ 위험 행동을 예측해 미리 사법기관에 알리는 시스템을 개발 중이라는 보도였습니다. 기술은 이로써 예언가의 영역에 발을 들였지만, 그 예언이 우리를 구원하는 대신 족쇄를 채울 수도 있다는 불안감을 지울 수 없습니다.
Q. AI가 범죄를 미리 예측하는 것이 기술적으로 가능하다면, 사회 안전을 위해 긍정적인 일 아닐까요?
매우 날카로운 질문입니다. 실제로 많은 이들이 기술의 순기능을 먼저 떠올릴 겁니다. 위험을 미리 막을 수 있다면 더 안전한 사회가 되지 않겠느냐는 희망이죠.
하지만 저는 여기서 ‘예측’이라는 행위의 본질을 짚고 싶습니다. 일기 예보의 예측은 틀려도 우산을 챙기면 그만이지만, 한 사람의 인생을 향한 예측은 다릅니다. 그것이 틀렸을 때의 대가는 한 개인의 삶 전체가 될 수 있기 때문입니다.
특히 이번 논란이 된 기술은 불특정 다수가 아닌, ‘AI에 비판적인 활동가’라는 특정 집단을 대상으로 한다고 합니다. 이것은 안전을 명분으로 반대 의견을 잠재적 범죄와 동일시하려는 시도로 읽힐 수 있습니다. 이는 기술의 영역을 넘어, 사회가 어떤 종류의 비판까지 용납할 것인가에 대한 철학적 질문을 던집니다.
Q. 그렇다면 이러한 ‘예측적 감시’가 가진 진짜 문제는 무엇일까요?
저는 크게 세 가지 지점에서 깊은 우려를 느낍니다. 우리가 무엇을 경계해야 하는지 명확히 할 필요가 있습니다.
- 첫째, ‘의심’의 알고리즘화입니다. 인간 사회에서 의심은 늘 존재했지만, 그것은 불완전한 인간의 판단이라는 한계를 가졌습니다. 하지만 기계가 ‘데이터에 기반하여’ 누군가를 위험인물로 지목한다면, 그 판단은 객관적이고 공정한 것으로 포장되기 쉽습니다. 우리는 기계의 판단에 이의를 제기하는 법을 잊게 될지도 모릅니다.
- 둘째, ‘자기 검열’의 내면화입니다. 나의 온라인 활동, 내가 읽는 글, 내가 나누는 대화가 모두 나의 ‘잠재적 위험도’를 측정하는 데이터가 된다면 어떻게 될까요? 만약 상상해보면, 우리는 비판적인 생각을 표현하기 전에, 혹시 모를 알고리즘의 오해를 살까 두려워 입을 다물게 될 것입니다. 사회 전체가 생각의 활력을 잃고, 안전하지만 정체된 공간으로 변해갈 수 있습니다.
- 셋째, ‘결과’가 아닌 ‘가능성’으로 처벌하는 세상의 도래입니다. 현대 법체계의 근간은 ‘무죄 추정의 원칙’입니다. 그러나 예측 시스템은 ‘유죄 가능성의 원칙’ 위에서 작동하는 것처럼 보입니다. 아직 일어나지 않은 일, 어쩌면 영원히 일어나지 않을지도 모르는 가능성 때문에 한 사람이 사회적으로 낙인찍히고 격리될 수 있다는 생각은, 제가 믿어온 인간 존엄성의 가치와 정면으로 충돌합니다.
Q. 기술의 발전을 막을 수는 없을 텐데, 우리는 어떤 태도를 가져야 할까요?
옳은 말씀입니다. 기술의 흐름 자체를 막으려는 시도는 무력할 수 있습니다. 중요한 것은 기술을 만드는 것보다, 그 기술을 어떤 철학과 원칙 위에 올려놓을 것인지를 고민하는 일입니다.
저는 제 서재의 책들을 둘러보곤 합니다. 거기에는 체제에 순응하는 이야기만큼이나 저항하고, 질문하고, 의심했던 이들의 기록이 가득합니다. 인류의 역사는 그 불온하고 불편한 질문들 덕분에 한 걸음씩 나아왔다고 저는 믿습니다.
새로운 기술이 우리에게 편리함과 안전을 약속할 때, 우리는 한 번쯤 물어야 합니다. 그 대가로 우리는 무엇을 내놓고 있는가? 우리의 자유, 우리의 비판할 권리, 우리가 아직 저지르지 않은 죄로 단죄받지 않을 권리마저 테이블 위에 올려놓고 있지는 않은지 말입니다. 기술의 예언이 우리의 미래를 결정하게 할 것이 아니라, 우리의 철학이 기술의 가야 할 길을 비춰주어야 할 때입니다.