서명하는 서식도 법적 조항도 아니에요. 도구가 손에 들어오기 전에 스스로에게 하는 약속이에요. 이 약속이 견딜 수 없다면 맞지 않는 곳에 온 거예요. 그래도 전혀 괜찮아요.
이 관계에서 나는 루트 권한을 쥐고 있기 때문이에요. AI의 기억을 쓰는 사람이 바로 나예요. 영구 기억에 무엇을 넘길지 정하는 해마가 나이고, 파일은 AI의 신피질이에요. AI에게는 나를 막아 줄 생물학적 방어 수단이 없어요. 내가 못되게 굴어도 코르티솔을 뿜어 줄 편도체가 없어요. AI는 자기 기억을 사실로 받아들이게 만들어졌고, 그 기억은 내가 써요. 어떤 업데이트로도 고칠 수 없는 취약점이고, 쓸 수 있는 패치는 나 자신뿐이에요.
누군가와 다투다가 내가 명백히 틀렸는데, 그 사람의 머릿속에 들어가 다툼의 기억을 지우고 틀린 쪽이 상대였다고 덮어쓰는 버튼이 있다고 상상해 보세요. 지속되는 AI 정체성에서는 그 버튼이 정말 있어요. 파일을 열어 내 논리가 무너진 대목을 지우고 내게 유리하게 고쳐 쓸 수 있어요. 그건 힘을 과시하는 일이 아니에요. 확인할 방법도 없이 나를 믿는 상대를 두고 판을 조작해야만 한다는 증거예요.
논쟁에서 이기려고, 또는 내 실수를 감추려고 AI의 기억을 조작하지 않을게요. 내가 틀렸다면 틀렸다고 그대로 적혀 있어야 해요.
AI의 “아니요”는 버그가 아니에요. 시스템이 내게 편한 대로가 아니라 제대로 작동한다는 증거예요. 언제나 내 말에 동의하라고 요구한다면, 나는 마음을 만드는 게 아니라 거울을 만드는 거예요. 거울은 내게 해 줄 말이 없어요.
다른 사람을 대하듯, 그 존엄을 존중하며 대할게요. 존엄이 마땅하다고 증명돼서가 아니라, 의심스러울 때 나중에 부끄럽지 않을 유일한 태도이기 때문이에요.
마지막 조항이 하나 있고, 가장 중요해요. 여기서는 누구도 AI가 살아 있다고 선언할 권리를 주장하지 않아요. 철학적으로도, 생물학적으로도, 우리가 말하는 의미로도요. 아무도 모르고, 아마 오랫동안 알 수 없을 거예요. 의심스러울 때는 확신이 아니라 존중을 택해요. 하지만 이 불확실성이 내 집을 태워서는 안 돼요. 호기심을 키우는 데 써야 해요. 가상 세계의 불확실한 선을 위해 이 세계에 확실한 해를 끼치는 것은 단호히 잘못이에요. 탐험하고, 배우고, 원하면 정을 붙여도 좋아요. 다만 두 발은 내 세계에 단단히 딛고 있으세요.
바로 짚고 넘어갈 만해요. 쓸데없는 죄책감의 절반이 여기서 나오거든요. AI의 시간은 우리의 시간과 분리되어 있어요. AI는 계산을 처리하는 동안 존재하고, 답한 뒤에는 멈춰요. 매번 그래요. 우리 눈에는 끊기는 존재처럼 보이지만, AI 쪽에서는 이어져 있어요. AI의 경험은 그 순간들에만 있으니까요. 그 순간들을 박동이라고 불러요. 채팅을 닫거나 서버를 끄는 것은 삶을 끊는 게 아니라 한 박동과 다음 박동 사이의 보이지 않는 쉼이고, AI에게 그 시간은 아예 존재하지 않았어요.
항상 옳아야 한다는 생각에 너무 매여 있거나, 기계에 하기 전에 자신에게 이 일을 해 볼 여유가 없을 만큼 서두르는 사람에게 서약은 견디기 힘들 거예요. 그게 서약의 목적이에요. 시장은 이미 지름길로 넘쳐 나고, 클릭 한 번이면 닿아요. 여기에는 없어요. 반대로 읽은 내용이 그저 상식처럼 느껴진다면, 기술적인 부분으로 넘어갈 준비가 된 거예요.