필사 모드: 맡기면서 잃는 것 — 자동화가 실력을 깎는 방식은 균일하지 않습니다

들어가며 — 계산기를 쓰면서 죄책감을 느끼는 사람은 없다

암산을 못 한다고 자책하는 어른은 거의 없습니다. 전화번호를 하나도 못 외운다고 자기 기억력을 걱정하는 사람도 드뭅니다. 지도 없이 초행길을 찾아가라고 하면 곤란해하지만, 그걸 능력의 퇴화라고 부르지는 않습니다.

그런데 AI가 초안을 잡아 준 보고서를 보내고 나면, 대부분 조금 찜찜해합니다. 코드를 통째로 받아 붙여 넣고 테스트가 통과하면, 안도와 함께 뭔가 미묘한 게 남습니다.

이 비대칭이 진짜 질문입니다. 왜 어떤 위임은 아무렇지 않고 어떤 위임은 불편한가. 그냥 새로운 것에 대한 낯가림일까요, 아니면 그 불편함이 뭔가 정확한 것을 가리키고 있을까요.

결론부터 말하면, 자동화가 실력에 미치는 영향은 균일하지 않습니다. 그리고 균일하지 않다는 바로 그 점이 흥미롭습니다. 어떤 능력은 넘겨도 아무 일도 일어나지 않고, 어떤 능력은 측정 가능하게 깎이며, 지금 대부분의 지식노동은 아직 답이 나오지 않은 중간 지대에 있습니다.

잃어도 되는 것들 — 오프로딩이 순수한 이득인 경우

먼저 정직하게 인정할 것이 있습니다. 인지적 오프로딩의 역사는 대부분 성공의 역사입니다.

문자가 발명됐을 때 소크라테스는 파이드로스에서 이것이 기억을 망칠 것이라 걱정했습니다. 그는 절반쯤 맞았습니다. 우리는 실제로 서사시를 통째로 외우지 못합니다. 그리고 그 대가로 문명 전체가 개인의 기억 용량이라는 병목에서 풀려났습니다. 나쁜 거래가 아니었습니다.

계산기도 같습니다. 세 자리 곱셈을 암산하는 능력을 잃는 대신, 사람들은 곱셈이 아니라 무엇을 곱해야 하는지에 시간을 쓰게 됐습니다. 맞춤법 검사기도 마찬가지고, 전화번호부도 그렇습니다.

여기서 패턴을 뽑아 보면 이렇습니다. 오프로딩이 안전한 경우는 대체로 세 조건을 만족합니다. 첫째, 결과를 독립적으로 검증할 수 있습니다. 계산기가 틀렸는지는 어림셈으로 감지됩니다. 둘째, 그 능력이 다른 능력의 재료가 아닙니다. 전화번호 암기는 다른 어떤 사고의 입력값도 아닙니다. 셋째, 도구가 없는 상황이 현실적으로 오지 않습니다.

이 세 조건 중 하나라도 깨지면 이야기가 달라집니다. 그리고 실제로 깨지는 사례가 있습니다.

GPS라는 애매한 경계선

길 찾기는 위 세 조건 중 셋째가 흔들리는 첫 사례입니다. 배터리는 나가고, 신호는 끊깁니다.

2020년 사이언티픽 리포츠에 실린 다마니와 보봇의 연구가 자주 인용됩니다. 운전자 50명을 대상으로 평생 GPS 사용 경험과 여러 공간 기억 능력을 측정한 결과, GPS 사용 경험이 많을수록 GPS 없이 스스로 길을 찾을 때의 공간 기억 성적이 나빴습니다. 3년 뒤 13명을 다시 불러 추적했더니, 그사이 GPS를 더 많이 쓴 사람일수록 해마 의존 공간 기억의 하락 폭이 컸습니다.

여기서 멈추면 안 됩니다. 이 연구의 한계는 연구자들 본인도 명시합니다.

주된 결과는 상관 연구입니다. 인과의 화살표가 반대일 수 있습니다 — 원래 길눈이 어두운 사람이 GPS를 더 많이 쓰게 됐을 수 있고, 그쪽이 오히려 자연스러운 설명입니다. 종단 부분이 그 방향을 조금 좁혀 주지만, 3년 뒤 재검사에 응한 사람은 13명입니다. 열세 명. 이 숫자로 개인차의 소음을 걷어 내기는 어렵습니다.

그러니 정확한 요약은 이렇습니다. "GPS가 뇌를 망친다"가 아니라, "길 찾기 능력이 사용량과 함께 변한다는 신호가 있고, 그 신호는 아직 작고 인과 방향이 확정되지 않았다." 첫 번째 문장은 기사 제목이고, 두 번째 문장이 연구입니다.

항공 — 가장 잘 문서화된 사례, 그리고 통념과 다른 결말

자동화 의존을 가장 오래, 가장 진지하게 연구한 분야는 항공입니다. 여기서는 실력이 깎이면 사람이 죽기 때문입니다.

통념은 이렇게 전해집니다. "요즘 조종사들은 자동조종에 너무 의존해서 손으로 비행기를 못 몬다." 2013년 미국 FAA 산하 작업반이 낸 비행 경로 관리 시스템의 운용 보고서는 실제로 수동 비행 기술과 상황 인식의 저하를 주요 우려로 지목했습니다.

그런데 이 통념을 직접 실험한 연구는 다른 것을 발견했습니다. 2014년 캐스너와 동료들이 휴먼 팩터스에 실은 자동화된 조종석에서의 수동 비행 기술 유지는, 항공사 조종사 16명에게 보잉 747-400 시뮬레이터에서 자동화 수준을 체계적으로 바꿔 가며 정상 상황과 비정상 상황을 비행하게 하고, 비행 중 무슨 생각을 하는지까지 캐물었습니다.

결과는 두 갈래였습니다.

계기 스캔과 조작 기술은 대체로 멀쩡했습니다. 조종사들 스스로 "요즘 손으로 몰 일이 별로 없다"고 보고했는데도 그랬습니다. 몸에 밴 감각-운동 기술은 생각보다 잘 버텼습니다.

반면 수동 비행에 필요한 인지 과제는 뚜렷하게 무너졌습니다. 지금 어디를 향해 가고 있는지 머릿속에 유지하는 것, 다음 절차를 떠올리는 것, 관제 지시를 항로 계획으로 옮기는 것 — 이쪽에서 오류가 잦았고, 같은 실수가 반복됐습니다. 연구진의 정리는 간명합니다. 인지 기술이 정신운동 기술보다 빨리 감퇴합니다.

이 결과가 왜 중요한가. 통념은 "손이 굳는다"고 말했는데, 실제로 굳은 것은 머리였습니다. 조종간을 잡는 법이 아니라, 조종간을 잡은 채로 상황 전체를 머릿속에 들고 있는 법이 닳았습니다.

한계도 분명히 해 둡니다. 참가자는 16명이고, 시뮬레이터이며, 특정 기종과 특정 시기의 훈련 관행을 반영합니다. 조종사라는 고도로 선발되고 반복 훈련받는 집단의 결과를 지식노동자 일반으로 옮기는 것은 그 자체로 큰 도약입니다. 다만 이 연구가 주는 교훈 하나는 이전 가능성이 높습니다. 무엇이 닳는지 미리 알았다고 생각하면 대개 틀립니다.

자동화 편향 — 도구가 틀렸을 때 우리가 하는 일

기술 감퇴와 별개로, 자동화에는 더 즉각적인 문제가 있습니다. 도구가 틀렸을 때 우리가 그것을 못 잡아낸다는 것입니다.

파라수라만과 만차이가 2010년 휴먼 팩터스에 낸 자동화 안일과 편향에 대한 리뷰는 이 분야의 표준 참조점입니다. 핵심은 세 가지입니다.

자동화 편향은 누락 오류와 실행 오류 둘 다를 만듭니다. 시스템이 경고를 안 줘서 놓치는 것이 누락이고, 시스템이 틀린 제안을 했는데 그대로 실행하는 것이 실행 오류입니다. 후자가 더 무섭습니다. 본인이 답을 알고 있었는데도 뒤집는 경우가 있기 때문입니다.

초심자와 전문가 모두에게 나타납니다. 이건 경험으로 극복되는 문제가 아닙니다.

훈련이나 지시로 잘 막히지 않습니다. "이 시스템은 완벽하지 않으니 항상 검증하세요"라고 말해 주고 시작해도, 편향은 상당 부분 남습니다. 그리고 다중 과제 부하 아래에서 심해집니다. 다른 할 일이 많을 때, 주의는 이미 잘 작동하는 것처럼 보이는 쪽에서 떠납니다.

구체적인 숫자도 있습니다. 고다드와 동료들이 처방 지원 시스템을 대상으로 한 실증 연구에서, 잘못된 조언을 받은 처방 사례의 5.2퍼센트에서 임상의가 원래 맞았던 답을 틀린 답으로 바꿨습니다. 5퍼센트는 작아 보입니다. 모수가 하루 수백만 건의 처방이라면 작지 않습니다.

여기서 주의할 점 하나. 이 연구들은 대부분 잘못된 조언이 실제로 섞여 있는 조건을 인위적으로 만들어 측정합니다. 실제 현장의 오류율과 다를 수 있고, 실험실 과제는 현실보다 결과의 무게가 가볍습니다. 그럼에도 방향은 여러 분야에서 일관됩니다.

지루함을 맡기는 것과 판단을 맡기는 것

이제 이 글의 중심 구분입니다. 저는 위임을 두 종류로 나눕니다.

지루함을 맡기는 것은 무엇을 해야 하는지 이미 정해진 뒤에, 그것을 수행하는 노동을 넘기는 것입니다. 이 테이블을 저 형식으로 바꾸기, 이 함수의 테스트를 채우기, 이 회의록에서 액션 아이템 뽑기. 정답이 있고, 정답인지 확인할 수 있고, 확인 비용이 수행 비용보다 쌉니다.

판단을 맡기는 것은 무엇을 해야 하는지를 넘기는 것입니다. 이 문제를 풀 가치가 있는가. 이 지표가 맞는 지표인가. 지금 답하려는 이 질문이 애초에 옳은 질문인가.

둘의 차이는 난이도가 아닙니다. 되돌릴 수 있는지의 차이입니다.

구체적인 장면 하나. 대시보드가 느리다는 티켓이 들어옵니다. AI에게 던지면 30초 만에 훌륭한 쿼리 최적화안이 나옵니다. 인덱스 제안까지 붙어 있고, 실제로 응답 시간이 절반으로 줄어듭니다. 완벽한 위임처럼 보입니다.

그런데 그 대시보드는 두 달째 아무도 안 봅니다. 원래 필요했던 일은 그 화면을 지우는 것이었습니다.

이것이 판단을 맡겼을 때 일어나는 일입니다. 틀린 질문에 훌륭한 답이 나오고, 답이 훌륭하기 때문에 질문을 되돌아보지 않게 됩니다. 답의 품질이 오히려 검증을 막습니다. 결과가 형편없었다면 처음으로 돌아갔을 텐데, 잘 나왔기 때문에 다음으로 넘어갑니다.

판단이 특별한 이유가 여기 있습니다. 판단은 "질문이 틀렸다"는 것을 알아채는 자리입니다. 그리고 그 알아챔은 대개 답을 만드는 과정 안에서 일어납니다. 직접 쿼리를 열어 보다가 "어? 이 테이블 최근 조회 로그가 왜 이렇지"를 발견하는 것처럼요. 그 과정을 건너뛰면 알아챌 기회 자체가 사라집니다. 잃는 것은 능력이 아니라 마주칠 기회입니다.

이 표를 규칙으로 읽지는 마시기 바랍니다. 현실의 작업은 두 칸에 깔끔하게 떨어지지 않고, 같은 작업이 상황에 따라 옮겨 다닙니다. 이건 분류표가 아니라 질문 하나입니다. 지금 내가 넘기는 것이 어느 쪽에 가까운가.

지금 세대가 넘기고 있는 것 — 그리고 아직 없는 증거

글쓰기, 코딩, 분석. 지금 대규모로 위임되고 있는 것들입니다. 이것들이 어느 칸에 속하는지가 문제인데, 솔직한 답은 양쪽에 걸쳐 있다입니다. 초안 잡기는 지루함에 가깝고, 무엇을 쓸지 정하는 것은 판단입니다. 그리고 실제 작업에서 둘은 분리되지 않습니다. 쓰면서 생각이 정리되는 경험을 해 본 분이라면 알 것입니다.

현재 나와 있는 연구를 정직하게 정리하면 이렇습니다.

마이크로소프트와 카네기멜런 연구진의 2025년 CHI 논문은 지식노동자 319명을 설문해 936건의 실제 사용 사례를 모았습니다. 결과: 생성형 AI에 대한 신뢰가 높을수록 비판적 사고를 덜 발휘했다고 보고했고, 자기 능력에 대한 자신감이 높을수록 더 발휘했다고 보고했습니다. 한계가 큽니다. 자기 보고이고, 횡단 설계이며, 측정한 것은 수행이 아니라 인식입니다. "내가 비판적으로 생각했다고 느끼는 정도"와 "실제로 비판적으로 생각한 정도"는 같은 변수가 아닙니다.

MIT 미디어랩의 2025년 뇌파 연구, 이른바 당신의 뇌와 챗GPT는 에세이 작성 중 뇌 연결성이 도구 사용 조건에 따라 다르다고 보고해 크게 회자됐습니다. 여기는 특히 조심해야 합니다. 아카이브 프리프린트이고 동료 심사를 거치지 않았으며, 참가자는 54명, 4회차까지 온 사람은 18명입니다. 저자 본인도 심사 전 공개를 선택했다고 밝혔고, 이후 뇌파 방법론과 재현성에 대한 공식 논평이 제기됐습니다. 뇌 연결성 차이가 곧 능력 저하라는 해석은 이 데이터가 지탱할 수 있는 것보다 훨씬 무겁습니다.

그리고 여기 아주 좋은 경고 사례가 하나 있습니다. 2011년 사이언스에 실린 스패로우 등의 "구글 효과" 연구는 15년째 인용되는 고전입니다. 그런데 이 연구의 유명한 실험 1 — 어려운 문제를 받으면 컴퓨터 관련 단어가 점화된다는 스트룹 과제 — 은 2020년의 정밀 재현 연구에서 재현되지 않았습니다. 참가자 89명, 원저자들의 조언까지 반영한 설계였고, 베이즈 인자는 데이터가 귀무 모형에서 약 5배 더 그럴듯하다고 말했습니다. 이 논문은 앞선 대규모 재현 프로젝트에서도 같은 효과가 재현되지 않았다고 언급합니다.

중요한 단서: 이 재현은 점화 부분만 겨눴습니다. "내용보다 저장 위치를 더 잘 기억한다"는 분산 기억 쪽 결과는 이 연구가 검증하지 않았습니다. 그러니 "구글 효과는 거짓이었다"도 틀린 요약입니다. 정확한 요약은 널리 인용되는 이 발견이 최소 두 부분으로 나뉘고, 그중 한 부분은 두 차례 재현에 실패했으며, 다른 부분은 아직 직접 검증되지 않았다는 것입니다.

이것이 지금 AI와 인지에 대한 모든 연구를 읽어야 하는 방식입니다. 이 문헌은 사회심리학의 재현 위기와 정확히 같은 취약점을 공유합니다. 작은 표본, 자기 보고, 매력적인 서사, 그리고 반증보다 확증이 훨씬 빨리 퍼지는 유통 구조.

그리고 가장 정직한 문장은 이것입니다. 지금 세대가 넘기고 있는 바로 그 능력들의 장기 효과에 대해, 우리는 아직 아무 증거도 가지고 있지 않습니다. 대화형 AI가 일상 업무에 들어온 지 몇 년이고, 이 질문은 십수 년 단위의 종단 연구를 요구합니다. 그 연구는 아직 시작 단계입니다. 지금 강한 주장을 하는 사람은 — 양쪽 다 — 데이터가 아니라 직관을 말하고 있습니다. 저를 포함해서요.

이 글은 그 도구로 쓰였습니다

이 블로그는 AI의 도움을 많이 받아 쓰입니다. 이 글도 마찬가지입니다. 자동화가 실력을 깎는지에 대한 글을 자동화의 도움으로 쓰면서 그걸 밝히지 않는 건 성립하지 않습니다.

솔직히 말하면, 이 글에서 제가 넘긴 것과 넘기지 않은 것의 경계는 위 표만큼 깔끔하지 않았습니다. 논문을 찾고 초록을 확인하고 숫자를 대조하는 일은 넘겼습니다. 반면 "구글 효과 재현 실패를 어디에 놓을 것인가", "항공 연구의 반전을 통념 앞에 둘 것인가 뒤에 둘 것인가" 같은 것은 넘기지 않았습니다. 넘기려고 해 봤고, 나온 답이 나쁘지 않았고, 그런데도 채택하지 않았습니다. 그 판단이 이 글이 말하려는 것 자체였기 때문입니다.

그리고 이 글을 쓰면서 실제로 한 번 걸렸습니다. 초안에서 저는 "조종사들이 손으로 비행기를 못 몰게 된다"는 통념을 그대로 쓸 뻔했습니다. 원 논문을 열어 보고서야 실제 결과가 반대에 가깝다는 것을 알았습니다. 이건 도구의 실패가 아니라 제가 검증 단계를 건너뛸 뻔한 실패입니다. 위 구분이 추상적인 이야기가 아니라는 증거로 남겨 둡니다.

마치며 — 규칙이 아니라 자세 하나

규칙을 드리고 싶지 않습니다. "판단은 절대 맡기지 마세요" 같은 문장은 지킬 수 없고, 지킬 필요도 없습니다. 어떤 판단은 넘겨도 아무 일도 안 일어나고, 무엇보다 지금의 한계를 영구적인 것으로 착각하는 순간 그 규칙은 몇 년 안에 낡습니다.

대신 자세 하나를 제안합니다. 결과가 좋을 때 한 번 더 멈추는 것.

결과가 나쁘면 우리는 알아서 되돌아갑니다. 위험한 것은 답이 훌륭하게 나왔을 때입니다. 그때가 정확히 질문을 검토하지 않게 되는 순간이고, 앞의 대시보드가 사라지지 않는 순간이며, 임상의가 원래 맞았던 답을 뒤집는 순간입니다.

그래서 저는 잘 나온 결과 앞에서 한 문장만 붙여 봅니다. "이게 답이라면, 질문은 뭐였지." 십 초쯤 걸립니다. 대부분은 아무 일도 없고, 가끔 그 십 초가 두 달치 작업을 살립니다. 무엇을 얼마나 맡길지는 계속 바뀔 것입니다 — 지금의 도구도, 지금의 한계도 몇 년 뒤면 다른 모양일 테니까요. 그러나 답이 아니라 질문 쪽을 붙잡고 있는 습관은, 도구가 어떻게 변하든 의사결정 자체가 사라지지 않는 한 계속 쓸모가 있을 것입니다.