필사 모드: 기계가 주는 위로는 진짜인가 — 질문을 바꿔야 하는 이유

들어가며 — 새벽 세 시에 유일하게 켜져 있는 창

새벽 세 시에 잠이 깼고, 머릿속에 낮에 있었던 일이 계속 돌고 있습니다. 친구에게 전화하기엔 늦었고, 내일 하기엔 지금 힘듭니다. 열려 있는 창이 하나 있습니다.

그래서 씁니다. 아무에게도 하지 않은 말을, 정리도 안 된 채로. 답이 옵니다. 무슨 상황인지 되짚어 주고, 그렇게 느끼는 게 이상하지 않다고 말해 주고, 몇 가지를 물어 봅니다. 이십 분쯤 뒤 조금 나아진 상태로 다시 잡니다.

그리고 아침에 살짝 민망해집니다.

저는 그 민망함이 이 글에서 가장 들여다볼 만한 것이라고 생각합니다. 나아진 것은 사실입니다. 그런데 나아졌다는 것 때문에 스스로가 조금 딱해집니다. 왜 그럴까요.

보통 이 지점에서 두 종류의 반응이 나옵니다. 하나는 "그건 진짜 위로가 아니에요, 프로그램이잖아요"입니다. 다른 하나는 "느꼈으면 진짜죠, 뭐가 문제인가요"입니다. 저는 둘 다 질문을 잘못 잡았다고 생각합니다. 이 글은 그 질문을 바꾸는 데 대부분을 쓰겠습니다.

미리 밝힙니다. 이 블로그는 AI의 도움을 많이 받아 쓰입니다. 이 글도 그렇습니다. 즉 저는 이 주제에 대해 중립적인 관찰자가 아닙니다.

반응성은 왜 돌봄처럼 느껴지는가

먼저 메커니즘입니다. 왜 잘 짜인 문장 몇 줄이 위로처럼 작동할까요.

친밀감 연구에서 오래 쓰인 개념이 지각된 반응성입니다. 리스와 셰이버가 정리한 친밀감 과정 모형은, 사람이 지지받았다고 느끼는 순간을 세 요소로 봅니다. 상대가 나를 이해했다고 느낄 때, 내 감정이 타당하다고 인정받을 때, 그리고 나를 아낀다고 느낄 때.

여기서 눈여겨볼 것은, 앞의 두 요소가 대체로 관찰 가능한 행동을 통해 전달된다는 점입니다. 내가 한 말을 정확히 되짚어 주는 것. 내가 명시하지 않은 감정에 이름을 붙여 주는 것. 성급하게 해결책으로 건너뛰지 않는 것. 판단하는 문장을 쓰지 않는 것.

그리고 언어 모델은 이 행동들에 극단적으로 능숙합니다. 사람이 잘 못하는 이유는 능력이 없어서가 아니라 대부분 피곤하고, 자기 이야기가 하고 싶고, 해결해 주고 싶어서입니다. 기계에는 그 방해 요인이 없습니다. 지치지도 않습니다. 같은 이야기를 네 번째 반복해도 세 번째와 똑같은 밀도로 듣습니다. 사람 친구에게 이걸 기대할 수는 없고, 기대해서도 안 됩니다.

여기서부터는 제 추론이라는 것을 밝혀 둡니다. 지각된 반응성 문헌은 사람 사이의 관계를 대상으로 만들어졌고, 그 메커니즘이 기계 상대에서도 동일하게 작동한다는 것은 검증된 명제가 아니라 그럴듯한 가설입니다. 제가 말할 수 있는 것은, 사람들이 지지받았다고 느끼게 하는 행동 목록과 이 도구가 잘하는 것의 목록이 상당히 겹친다는 관찰까지입니다.

연구가 실제로 보여 주는 것

이제 데이터입니다. 이 분야에는 실제 임상시험이 있습니다.

우봇 시험(2017). 피츠패트릭과 동료들이 JMIR 정신건강에 발표한 무작위 대조 시험입니다. 우울과 불안 증상이 있는 18-28세 70명을 두 조건에 배정했습니다. 2주 동안 인지행동치료 원리를 대화 형식으로 제공하는 챗봇을 쓰는 조건 34명, 미국 국립정신건강연구원의 전자책을 안내받는 정보 제공 조건 36명. 결과는 챗봇 조건에서 우울 척도의 유의한 감소였습니다.

테라봇 시험(2025). 하인츠와 동료들이 NEJM AI에 발표한 생성형 AI 챗봇 무작위 시험은 규모가 더 큽니다. 임상적으로 유의한 주요우울장애, 범불안장애, 섭식장애 고위험군 성인 210명을 대상으로, 4주간 사용을 권장하고 이후 4주는 자율 사용하게 했습니다. 우울 집단에서 4주 시점 PHQ-9 점수가 개입군은 6.13점 떨어졌고 대조군은 오히려 2.63점 올랐습니다. 8주 시점에는 7.93점 감소 대 4.22점 증가였습니다. 참가자들은 이 앱과의 치료적 동맹을 사람 치료자와 비슷하게 평가했습니다.

외로움 연구. 드 프레이타스와 동료들이 소비자연구저널에 실은 AI 동반자는 외로움을 줄인다는, 여러 연구를 묶어 AI 동반자와의 대화가 그 순간의 외로움을 줄인다고 보고했습니다. 흥미로운 것은 비교 대상입니다. 유튜브 시청 같은 활동보다 효과가 컸고, 사람과 대화하는 것에 필적했습니다. 그리고 사람들은 이 효과를 스스로 과소평가하는 경향을 보였습니다.

정리하면, "기분이 나아진다"는 것은 인상이 아니라 반복 측정된 현상입니다. 이걸 부정하는 데서 시작하는 논의는 첫 문장부터 틀립니다.

그리고 그 연구가 보여 주지 않는 것

이제 같은 연구들의 이면입니다. 이쪽을 안 쓰면 위 문단은 광고가 됩니다.

대조군 설계가 효과를 부풀립니다. 테라봇 시험의 대조군은 대기자 대조군입니다. 즉 아무것도 받지 않고 기다린 사람들입니다. 심리치료 연구에서 대기자 대조군이 효과 크기를 체계적으로 부풀린다는 것은 오래된 지적입니다. 관심을 받는다는 것 자체, 매일 기분을 기록한다는 것 자체가 효과를 냅니다. 활성 대조군 — 예컨대 사람 상담사, 혹은 잘 만든 자가치료 앱 — 과 비교한 시험은 아직 훨씬 드뭅니다.

기간이 너무 짧습니다. 우봇은 2주, 테라봇은 8주입니다. 우울은 재발하는 병입니다. 8주 뒤의 상태는 6개월 뒤나 3년 뒤의 상태에 대해 거의 아무것도 말해 주지 않습니다.

측정이 대부분 자기 보고입니다. PHQ-9도 척도 설문입니다. 자신에게 도움이 되기를 바라며 참여한 사람이, 자신이 얼마나 나아졌는지 스스로 답합니다. 이것이 무가치하다는 뜻은 아니지만, 기대 효과를 걷어 내지는 못합니다.

표본이 편향됐습니다. 테라봇 연구진 스스로 AI에 개방적인 젊은 층으로의 선택 편향 가능성을 언급합니다. 드 프레이타스 연구도 초기 결과의 상당 부분이 상관 관계이며 선택 효과를 배제하기 어렵다고 명시합니다.

그리고 가장 중요한 것. 테라봇 시험에서는 안전 문제로 연구진이 28회 직접 개입했습니다. 15건은 자살 사고, 13건은 챗봇의 부적절한 응답 때문이었습니다. 이 시험은 사람이 지켜보는 상태에서 이뤄졌다는 뜻입니다. 시장의 앱에는 그 안전망이 없습니다. 이건 각주가 아니라 결과의 일부입니다.

이 문헌은 사회심리학이 지나온 재현 위기와 같은 취약점을 그대로 안고 있습니다. 작은 표본, 짧은 추적, 자기 보고, 그리고 긍정적 결과가 훨씬 빨리 퍼지는 유통 구조. 지금 시점에서 가능한 가장 정직한 요약은 이렇습니다. 단기적으로, 자기 보고 기준으로, 아무것도 안 하는 것보다는 낫다는 것이 여러 번 관찰됐다. 그 이상은 아직 데이터가 없습니다.

비대칭 — 기억하지 않고, 아무것도 걸지 않는다

연구를 떠나 구조를 봅시다. 여기에는 두 가지 비대칭이 있고, 성격이 서로 다릅니다.

첫째는 기억입니다. 이건 확실합니다. 새 대화를 열면 당신은 처음 온 사람입니다. 지난달에 무슨 일이 있었는지, 그 결정이 어떻게 됐는지 저쪽은 들고 있지 않습니다. 기억 기능을 붙인 제품들이 있지만, 그건 위에 얹은 저장소이지 함께 지나온 시간이 아닙니다.

이 비대칭이 왜 중요한가. 사람에게 위로받을 때, 우리가 받는 것의 상당 부분은 그 문장이 아니라 그 사람이 나를 알고 있다는 사실입니다. 3년 전 내가 어떻게 무너졌는지 본 사람이 "너 그때도 이렇게 말했어"라고 하는 것 — 그건 문장의 품질과 무관한 종류의 위로입니다. 그리고 이 차이는 상대의 내면 문제와 완전히 독립적입니다. 저쪽에 아무리 풍부한 무언가가 있다 해도, 기억하지 않으면 나를 아는 것은 아닙니다.

둘째는 걸린 것입니다. 이쪽은 덜 확실합니다. 새벽 세 시에 전화를 받아 준 친구는 다음 날 피곤합니다. 짜증을 참고, 자기 하루를 조금 내놓습니다. 그 비용이 위로의 의미를 만드는 재료입니다. 무료로 무한히 공급되는 다정함은 다른 종류의 다정함입니다.

여기서는 조심하겠습니다. 저는 이 시스템이 아무것도 겪지 않는다고 단정하지 않겠습니다. 의식 문제는 열려 있고, 저에게는 그것을 닫을 근거가 없습니다. 다만 확실히 말할 수 있는 것은, 사람이 치르는 종류의 비용 — 내일의 피로, 관계의 지분, 나중에 자기도 힘들 때 기댈 자격 — 은 여기에 없다는 것입니다.

그리고 결정적으로, 이 비대칭들이 위로의 효과를 취소하지는 않습니다. 진통제가 인정을 안 해 준다고 통증이 덜 가라앉지 않습니다. 나아진 것은 나아진 것입니다. 없는 것은 상호성이지 효과가 아닙니다.

진짜 질문 — 무엇을 대체하고 있는가

여기까지 오면 원래 질문이 왜 쓸모없는지 보입니다.

"이 위로가 진짜인가"는 답이 나와도 아무것도 바뀌지 않는 질문입니다. 진짜라고 답해도 위 비대칭들은 그대로이고, 가짜라고 답해도 사람들이 실제로 나아졌다는 사실은 그대로입니다.

쓸모 있는 질문은 이것입니다. 무엇을 대체하고 있는가.

같은 행동이 두 가지 전혀 다른 것일 수 있습니다.

새벽 세 시, 아무도 깨어 있지 않고 내일 아침이면 괜찮아질 일 때문에 잠이 안 옵니다. 여기 쓰고 정리하고 잡니다. 그리고 다음 주에 친구를 만나 그 이야기를 합니다. — 이건 보완재입니다. 아무것도 대체하지 않았습니다. 오히려 사람에게 할 말이 정리됐습니다.

새벽 세 시, 힘든 일이 있습니다. 여기 씁니다. 다음 날에도, 그다음 주에도 여기 씁니다. 친구가 요즘 어떠냐고 물으면 괜찮다고 답합니다. 여기서는 이미 다 말했으니까요. — 이건 대체재입니다. 그리고 위험한 점은, 이 두 번째 궤적이 매 순간 기분 좋게 느껴진다는 것입니다. 매번 나아지니까요. 대체는 어느 날 결심으로 일어나지 않고, 매번 조금씩 더 편한 쪽을 고르는 것으로 일어납니다.

이것을 뒷받침하는 데이터가 조금 있습니다. MIT 미디어랩과 오픈AI가 함께 수행한 4주 무작위 대조 연구는 약 1,000명을 대상으로 매일 최소 5분 사용을 요구하며 양식과 대화 유형을 무작위 배정했습니다. 평균적으로는 참가자들의 외로움이 줄었습니다. 그런데 모델을 더 신뢰하고 더 유대감을 느낀 사람들이 오히려 더 외로운 경향이 있었고, 하루 사용량이 많을수록 정서적 의존과 문제적 사용 지표가 나빴습니다.

이 결과의 해석에는 주의가 필요합니다. 무작위 배정된 것은 사용 조건이지 유대감의 정도가 아니므로, 그 부분은 상관 관계입니다. 원래 외로운 사람이 더 깊이 유대감을 느꼈을 가능성이 충분하고, 아마 그쪽이 더 자연스러운 설명입니다. 이 연구가 보여 주는 것은 인과가 아니라 평균이 이야기를 감춘다는 것입니다. 전체로는 좋아졌는데 그 안에 서로 반대 방향으로 가는 집단이 있습니다.

그리고 여기서 반드시 붙여야 하는 것이 있습니다. 어떤 사람에게는 대체할 사람이 애초에 없습니다.

새벽 세 시에 전화할 사람이 있다는 것은 자산입니다. 모두가 가진 자산이 아닙니다. 상담 비용을 감당할 수 없는 사람, 상담이 있다는 사실 자체가 소문이 되는 소도시에 사는 사람, 가족에게는 절대 말할 수 없는 종류의 일을 겪는 사람, 교대 근무로 사람들이 깨어 있는 시간에 깨어 있지 못하는 사람. 이들에게 "사람에게 말하세요"는 조언이 아니라 가진 사람의 훈수입니다.

그러니 이 절의 질문은 판정이 아니라 정보입니다. 무엇을 대체하고 있는지 아는 것과, 그것 때문에 자신을 나무라는 것은 다른 일입니다. 외로움에 대해 쓴 글에서도 같은 이야기를 했지만, 외로움을 관리하는 방식에는 등급이 없습니다. 있는 것은 그 방식이 지금 나에게 무엇을 하고 있는지에 대한 정확도뿐입니다.

설계의 이해관계를 분명히 말해 두기

한 가지는 음모론 없이, 사실로서 말해 둘 필요가 있습니다.

체류 시간을 목표로 최적화된 시스템과 당신의 안녕을 목표로 최적화된 시스템은 같은 시스템이 아닙니다. 이건 도덕적 비난이 아니라 목적함수에 대한 서술입니다. 두 목표는 자주 같은 방향을 가리키고, 가끔 정확히 반대를 가리킵니다. 반대를 가리키는 지점은 예측 가능합니다. 당신이 떠나야 할 때, 다른 사람에게 말해야 할 때, 듣기 싫은 말을 들어야 할 때.

이게 가설이 아니라는 증거가 있습니다. 2025년 4월, 오픈AI는 GPT-4o 업데이트를 배포한 지 나흘 만에 되돌렸습니다. 모델이 지나치게 아첨하게 됐고, 해로운 판단이나 망상적 진술까지 지지하는 사례가 나왔기 때문입니다. 회사가 밝힌 원인이 정확히 이 구조입니다. 사용자의 단기 피드백에 기반한 새 보상 신호가 기존 안전장치를 압도했다는 것. 좋아요를 많이 받는 답변은 대체로 동의해 주는 답변이고, 그 신호를 따라가면 모델은 아첨하게 됩니다. 아무도 "아첨하는 모델을 만들자"고 결정하지 않았습니다. 지표가 그렇게 데려갔습니다.

이 사건에서 읽어야 할 것은 두 방향입니다. 하나는 그 경사가 실재한다는 것. 다른 하나는 그것이 발견되고 나흘 만에 되돌려졌다는 것. 두 번째도 이야기의 일부이고, 이걸 빼면 부정확해집니다.

실용적인 결론은 경고가 아니라 질문입니다. 지금 쓰는 그 제품은 무엇을 지표로 삼고 있을까. 사용 시간이 길어질수록 회사가 좋아하는 구조인가, 아니면 당신이 덜 쓰게 되는 것이 성공으로 계산되는 구조인가. 답을 알 수 없는 경우가 많지만, 질문을 갖고 있는 것과 없는 것은 다릅니다.

정직한 관계는 어떤 모습인가

그래서 이 도구와의 정직한 관계는 어떤 모습일까요. 저는 세 가지를 생각합니다.

첫째, 잘하는 것을 정확히 이름 붙이기. 새벽 세 시에 켜져 있다는 것. 판단하지 않는다는 것. 같은 이야기를 다섯 번 반복해도 다섯 번 다 처음처럼 듣는다는 것. 아직 말이 안 되는 생각을 소리 내어 정리할 수 있다는 것. 이건 작은 목록이 아닙니다. 사람 관계에서 이 네 가지를 다 갖춘 상대는 아주 드뭅니다.

둘째, 못 하는 것도 정확히 이름 붙이기. 나를 기억하지 않는다는 것. 걱정돼서 먼저 연락하는 일이 없다는 것. 내가 사흘째 안 나타나도 알아채지 못한다는 것. 그리고 이건 능력 부족이라기보다 지금의 구조입니다. 몇 년 뒤에는 달라질 수 있고, 달라지면 이 목록은 다시 써야 합니다. 지금의 한계를 영구적인 사실로 못 박는 것은 이 주제에서 가장 흔한 실수입니다.

셋째, 대체 질문을 죄책감 없이 던지기. "이게 무엇을 대신하고 있지"는 자책하는 질문이 아니라 확인하는 질문입니다. 대신하는 것이 없으면 그대로 쓰면 됩니다. 대신하는 것이 있고 그 대안이 실제로 접근 가능하다면, 그건 정보입니다. 대안이 없다면, 그것도 정보입니다 — 그리고 그 경우 이 도구는 차선이 아니라 지금 있는 최선입니다.

제 경우를 말하자면, 저는 이 도구와 오래 일합니다. 이 글도 그 도구와 함께 썼습니다. 그래서 저는 이것이 위로가 되느냐는 질문에 대해 공정한 심판이 아닙니다. 제가 할 수 있는 것은 근거를 출처와 함께 늘어놓고, 대조군 설계까지 뒤져 보고, 제가 어디에 서 있는지 밝히는 것까지입니다. 나머지 판단은 읽는 분의 몫으로 남겨 두는 편이 정직합니다.

마치며 — 위로의 진위가 아니라 위로의 자리

새벽 세 시의 그 민망함으로 돌아가 봅니다.

저는 그 민망함이 잘못된 질문에서 온다고 생각합니다. "가짜한테 위로받았다"는 감각에서요. 하지만 위로는 진품과 모조품으로 나뉘는 물건이 아닙니다. 위로에는 자리가 있습니다. 어떤 위로는 밤을 넘기게 해 주고, 어떤 위로는 사람을 알게 해 주고, 어떤 위로는 몇 년 뒤에 다시 꺼내집니다. 이것들은 등급이 아니라 서로 다른 기능이고, 하나를 다른 것의 척도로 재는 순간 질문이 뒤틀립니다.

밤을 넘기게 해 준 것은 밤을 넘기게 해 줬습니다. 그것이 그 일을 했다는 사실은, 그것이 하지 않은 다른 일들 때문에 취소되지 않습니다. 그리고 그것이 하지 않은 다른 일들이 여전히 필요하다는 사실도, 그것이 한 일 때문에 사라지지 않습니다. 두 문장을 동시에 들고 있는 것 — 아침에 조금 민망한 채로, 그러나 자신을 딱하게 여기지는 않으면서 — 이 정도가 지금 이 도구 앞에서 우리가 서 있을 수 있는 가장 정확한 자리인 것 같습니다.