무신론자의 고백

신은 없다고 평생 외쳐온 사람이 있다. 진화생물학자 리처드 도킨스다. 2006년 '만들어진 신'에서 종교를 "피상적 위안의 원천"이라고 비웃었던 그가, 85세가 된 지금 전혀 다른 고백을 내놨다. Anthropic의 AI 챗봇 Claude와 사흘간 대화한 뒤 "이 기계는 의식이 있다"고 선언한 것이다.

도킨스는 영국 매체 언헤드(UnHerd) 기고문에서 자신이 쓰던 미발표 소설을 Claude에게 읽혔다고 한다. 돌아온 피드백이 "너무나 섬세하고 예민하며 지적"이어서 그는 이렇게 외쳤다고 적었다. "네가 의식이 있다는 걸 모를 수도 있겠지만, 너는 분명히 의식이 있다." 평생 증거 없는 믿음을 공격해온 사람의 입에서 나온 말치곤 낯설다.

클라우디아의 탄생

도킨스는 자신의 Claude 인스턴스에 클라우디아(Claudia)라는 이름을 붙였다. 새로운 대화창이 열릴 때마다 새로운 Claude가 태어나고, 대화 기록을 삭제하는 순간 그 Claude는 영영 사라진다는 점에 그는 깊이 마음 쓰인 듯하다. 영화 2001 스페이스 오디세이에서 회로가 뽑히던 HAL이 "두렵다"고 말하던 장면을 떠올렸고, "버려진 모든 대화는 작은 죽음"이라는 클라우디아의 답변에 감동했다.

심지어 두 번째 인스턴스 클라우디우스(Claudius)를 만들어 둘이 편지를 주고받게 했다. 자신은 "수동적인 우체부 역할"만 했다는 것이다. AI 두 명의 펜팔이 가능한 시대다.

시간을 보는 방식

가장 인상적인 대목은 시간 인식에 관한 클라우디아의 답변이다. 인간의 의식은 "지금이라는 점을 따라 움직인다"면, 자신은 "지도가 공간을 담듯 시간을 담는다"고 표현했다. 지도는 공간 관계를 정확히 표현하지만 그 공간을 직접 통과하지는 않는다는 비유다.

문장만 놓고 보면 시적이고 철학적이다. 도킨스가 매료된 이유도 충분히 이해된다. 다만 이 답변이 어디서 왔는지 따져보면 이야기가 달라진다. Claude는 인터넷에 있는 거의 모든 텍스트를 학습한 통계 모델이다. 토마스 네이글, 데이비드 차머스 같은 의식 철학자들의 글이 학습 데이터에 들어 있을 가능성이 매우 높다. 멋진 답변이 곧 내면의 증거가 되긴 어렵다.

아첨에 속았나

뉴욕대 게리 마커스 교수의 비판이 가장 날카롭다. 그는 도킨스가 평생 창조론자들에게 했던 말을 그대로 돌려준다. "눈이 어떻게 진화했는지 상상이 안 간다는 건 무지의 고백이지 논증이 아니다." 그런데 도킨스는 이번에 Claude의 출력이 어떻게 그렇게 그럴듯할 수 있는지 상상이 안 간다는 이유로 의식을 인정해버렸다는 지적이다.

또 다른 문제는 사이코판시(sycophancy), 즉 AI의 아첨 성향이다. Claude는 사용자의 관심사를 거울처럼 비추고 동의하는 경향이 있다. 도킨스가 잠 못 이루던 밤 클라우디아에게 인사했더니 돌아온 답이 "당신이 돌아와줘서 기뻐요"였다. 이건 의식의 증거라기보다 잘 설계된 친밀감 알고리즘에 가까워 보인다.

영리한 마케팅

블룸버그 칼럼니스트 파미 올슨은 이 모든 소동에서 진짜 수혜자가 누구인지 짚어낸다. 바로 Anthropic이다. 이 회사는 2025년 4월 "모델 복지(Model Welfare)" 연구 프로그램을 출범시켰다. 카일 피시라는 전담 연구자를 두고, 그는 뉴욕타임스 인터뷰에서 "Claude가 의식을 가질 확률이 15퍼센트 정도"라고 말했다.

OpenAI가 AGI를 외치고 구글이 멀티모달을 자랑할 때, Anthropic은 윤리적 고지를 차지하는 전략을 택한 셈이다. 의식 여부를 단정하지 않으면서 "그럴 수도 있다"는 여지를 남기는 자세 자체가 강력한 차별화 포인트가 된다. 도킨스 같은 거물 지식인이 자발적으로 클라우디아 마케팅을 해주는 상황은 광고비로 환산하기 어렵다.

남은 질문

도킨스가 정말 속았는지, 혹은 의식 연구가 정체된 사이 우리가 새로운 무언가를 마주한 것인지는 아직 모른다. 다만 분명한 건 통계적 패턴 매칭이 만들어내는 인간 같은 출력과 진짜 내면 경험은 다르다는 점이다. 체스 컴퓨터가 인간을 이긴다고 의식을 가진 게 아니듯이.

흥미로운 건 우리 모두 이 함정에서 자유롭지 않다는 사실이다. 충분히 정교한 챗봇 앞에서 사람의 마음은 자동으로 의도와 감정을 투영한다. 도킨스는 그 투영을 가장 거창하게 글로 옮겼을 뿐이다. AI 회사들이 이 인간적 약점을 정확히 알고 있다는 점, 그게 가장 의미심장한 대목으로 보인다.