Skip to content
←

Split View: 세상은 어떻게 움직이는가 — 인센티브와 시스템

|

세상은 어떻게 움직이는가 — 인센티브와 시스템

들어가며 — 이상해 보이는 일에는 대개 이유가 있다

뉴스를 보다 보면 세상은 자주 비합리적으로 보인다.

멀쩡한 회사가 자기 발등을 찍는 결정을 내리고, 좋은 의도로 만든 정책이 정반대의 결과를 낳는다.

똑똑한 사람들이 모여서 어리석은 결정을 내리는 장면도 흔하다.

그런데 한 걸음 물러서서 "누가, 무엇으로 보상받는가"를 물어보면 대부분의 그림이 갑자기 선명해진다.

사람들은 대체로 자기가 놓인 자리에서 합리적으로 행동한다.

이상해 보이는 것은 행동이 아니라, 그 행동을 만들어 내는 구조다.

이 글은 그 구조를 읽는 몇 가지 렌즈를 다룬다.

인센티브가 어떻게 조용히 행동을 지배하는지, 좋은 의도가 어떻게 뒤틀린 결과로 이어지는지, 측정하는 순간 지표가 어떻게 망가지는지를 살펴본다.

이어서 시스템 사고, 피드백 루프, 2차와 3차 효과, 멱법칙, 창발, 레버리지 포인트를 차례로 짚는다.

마지막으로, 복잡한 시스템이 우리에게 요구하는 겸손에 대해 이야기한다.

전문 용어보다는 일상에서 마주치는 장면으로 설명하려 한다.

세상을 예측하는 마법 공식을 주려는 것이 아니다.

다만, 사건의 표면 아래에서 무엇이 움직이고 있는지를 조금 더 잘 보게 하려는 것이다.

1. "인센티브를 보여주면 결과를 말해 주겠다"

투자자 찰리 멍거는 이렇게 말했다.

"내게 인센티브를 보여 달라, 그러면 결과를 말해 주겠다."

간단한 문장이지만, 세상을 읽는 강력한 첫 번째 도구다.

사람의 행동을 이해하려면 그 사람의 성격이나 도덕성보다 그가 어떤 보상과 처벌 아래 있는지를 먼저 봐야 한다는 뜻이다.

멍거는 페덱스의 오래된 일화를 즐겨 들었다.

야간 물류 허브에서 직원들이 아무리 독려해도 교대를 제시간에 끝내지 못했다.

시간당 임금으로 급여를 주는 한, 일을 빨리 끝낼 이유가 없었기 때문이다.

회사가 시급이 아니라 "교대 단위"로 급여를 지급하고, 끝나면 퇴근하도록 바꾸자 문제는 거의 사라졌다.

사람이 바뀐 것이 아니라 인센티브가 바뀐 것이다.

인센티브는 말보다 강하다

조직은 흔히 벽에 가치를 써 붙인다.

"우리는 품질을 중시합니다", "우리는 협업을 존중합니다" 같은 문구다.

그러나 실제 행동을 결정하는 것은 벽에 붙은 문장이 아니라, 무엇이 승진과 보너스로 이어지는가다.

만약 개인 실적만으로 승진이 결정된다면, 아무리 "협업"을 외쳐도 사람들은 협업하지 않는다.

지표가 배포 속도만 보상한다면, 품질은 조용히 뒤로 밀린다.

인센티브와 공식 구호가 충돌할 때, 거의 언제나 인센티브가 이긴다.

그래서 어떤 조직이나 사회를 이해하려면, 선언문이 아니라 보상 구조를 읽어야 한다.

좋은 사람, 나쁜 구조

이 관점의 중요한 함의는, 나쁜 결과가 반드시 나쁜 사람에게서 나오지는 않는다는 것이다.

착한 사람도 뒤틀린 인센티브 아래에서는 나쁜 결과를 만든다.

반대로 좋은 인센티브는 평범한 사람들에게서 좋은 결과를 끌어낸다.

물론 인센티브가 전부는 아니다.

사람은 돈과 지위뿐 아니라 자부심, 소속감, 의미 같은 무형의 보상에도 반응한다.

그러나 어떤 상황이 왜 그렇게 굴러가는지 막막할 때, "여기서 누가 무엇으로 보상받는가"라는 질문은 거의 언제나 좋은 출발점이 된다.

2. 뒤틀린 인센티브와 의도하지 않은 결과

인센티브가 강력하다는 말은, 잘못 설계된 인센티브가 강력하게 위험하다는 뜻이기도 하다.

가장 유명한 사례가 "코브라 효과"다.

영국 식민지 시절 인도 델리에서, 당국은 독사인 코브라 수를 줄이려고 죽은 코브라 한 마리당 현상금을 걸었다.

처음에는 효과가 있는 듯했다.

그러나 곧 사람들은 현상금을 노리고 코브라를 사육하기 시작했다.

당국이 이를 눈치채고 현상금을 폐지하자, 이제 쓸모없어진 코브라들이 풀려나면서 야생 코브라는 오히려 늘어났다.

목표를 위해 만든 보상이, 정확히 그 목표를 악화시킨 것이다.

이처럼 문제를 줄이려는 보상이 오히려 문제를 부추기는 현상을 "코브라 효과"라 부른다.

측정할 수 있는 것과 원하는 것

뒤틀린 인센티브의 뿌리는 대개 하나다.

우리가 진짜 원하는 것과, 우리가 보상하는 것이 다르다는 점이다.

우리는 "안전한 도시"를 원하지만 "적은 신고 건수"를 보상하고, 그러면 신고를 접수하지 않으려는 유인이 생긴다.

우리는 "건강한 코드베이스"를 원하지만 "높은 테스트 커버리지 숫자"를 보상하고, 그러면 아무것도 검증하지 않는 형식적 테스트가 늘어난다.

콜센터에서 "짧은 통화 시간"을 보상하면, 상담원은 문제를 해결하는 대신 전화를 빨리 끊는다.

원하는 결과가 측정하기 어려울수록, 사람들은 측정되는 대체 지표를 최적화하고 진짜 목표는 뒤로 밀려난다.

스트라이샌드 효과

의도하지 않은 결과는 정보의 세계에서도 나타난다.

2003년, 가수 바브라 스트라이샌드는 자기 저택이 찍힌 항공 사진을 인터넷에서 내리게 하려고 소송을 걸었다.

그 사진은 원래 해안 침식을 기록하는 방대한 자료의 일부였고, 소송 전에는 거의 아무도 보지 않았다.

그러나 소송이 알려지자 사람들의 호기심이 폭발했고, 그 사진은 순식간에 수십만 명에게 퍼졌다.

무언가를 숨기려는 시도가 오히려 그것에 대한 관심을 폭발적으로 키우는 현상을, 이 일화에서 따와 "스트라이샌드 효과"라 부른다.

두 사례의 교훈은 같다.

행동을 설계할 때는 "이것이 성공하면 어떻게 되는가"만큼이나 "사람들이 이 규칙에 어떻게 반응할까"를 물어야 한다.

3. 굿하트의 법칙 — 지표가 목표가 되는 순간

경제학자 찰스 굿하트의 이름을 딴 굿하트의 법칙은 이렇게 요약된다.

"어떤 측정값이 목표가 되면, 그것은 더 이상 좋은 측정값이 아니게 된다."

인류학자 매릴린 스트래선은 이를 널리 알려진 형태로 다듬었다.

핵심은 이렇다.

어떤 지표가 그저 현실을 반영하는 관찰값일 때는 유용하다.

그러나 그 지표 자체가 보상과 처벌의 기준이 되는 순간, 사람들은 현실이 아니라 지표를 조작하기 시작한다.

시험 점수라는 익숙한 예

학교 시험을 생각해 보자.

시험 점수는 원래 학생의 이해도를 재는 대리 지표다.

그런데 학교의 평가와 예산이 시험 점수에 걸리면, 수업은 "시험에 나오는 것"으로 좁아진다.

깊은 이해 대신 문제 유형 암기가 자리를 차지하고, 어떤 곳에서는 노골적인 부정행위까지 등장한다.

점수는 올라가지만, 정작 재려던 "이해도"는 그대로거나 오히려 나빠진다.

지표가 목표가 되는 순간, 지표와 현실 사이의 연결이 끊어진 것이다.

지표를 다루는 태도

굿하트의 법칙은 "지표를 쓰지 말라"는 뜻이 아니다.

지표 없이 큰 조직을 운영할 수는 없다.

다만 지표를 절대적 목표가 아니라, 언제든 왜곡될 수 있는 불완전한 신호로 다루라는 뜻이다.

하나의 숫자에 모든 보상을 걸면, 그 숫자는 반드시 왜곡된다.

그래서 서로를 견제하는 여러 지표를 함께 보고, 숫자 뒤의 실제 현실을 정성적으로 확인하며, 지표가 대리하려던 원래 목적을 잊지 않는 편이 낫다.

숫자는 지도이지 영토가 아니다.

지도를 예쁘게 칠하는 데 몰두하다 보면, 정작 가려던 곳에서 멀어질 수 있다.

4. 시스템 사고 — 스톡, 플로우, 그리고 피드백

지금까지의 이야기는 하나의 더 큰 틀로 이어진다.

바로 시스템 사고다.

시스템 사고는 사건을 고립된 점이 아니라, 서로 연결된 요소들의 관계 속에서 보는 방식이다.

이 분야의 고전은 도넬라 메도스의 저서 "시스템 사고"다.

메도스는 시스템을 세 가지 언어로 설명한다.

스톡, 플로우, 그리고 피드백 루프다.

스톡과 플로우

스톡은 어느 순간에 쌓여 있는 양이다.

욕조에 담긴 물, 은행 계좌의 잔고, 팀이 쌓아 둔 기술 부채, 사회의 신뢰 같은 것이다.

플로우는 그 스톡을 늘리거나 줄이는 흐름이다.

수도꼭지에서 들어오는 물과 배수구로 빠지는 물, 입금과 출금, 새로 생기는 부채와 갚는 부채다.

우리는 종종 스톡의 현재 수위에만 주목한다.

그러나 시스템의 진짜 움직임은 들어오는 플로우와 나가는 플로우의 균형에서 결정된다.

욕조의 물이 넘치는 이유는 물이 "많아서"가 아니라, 들어오는 양이 나가는 양보다 오래 컸기 때문이다.

부채가 쌓이는 이유도, 갚는 속도보다 새로 지는 속도가 꾸준히 빨랐기 때문이다.

개인을 탓하면 시스템을 놓친다

시스템 사고의 가장 실용적인 교훈은 이것이다.

반복해서 나쁜 결과가 나올 때, 대개 문제는 사람이 아니라 구조에 있다.

담당자를 바꿔도 같은 문제가 되풀이된다면, 그 자리 자체가 나쁜 결과를 만들어 내고 있을 가능성이 높다.

병목이 계속 생기는 프로세스, 늘 마감을 넘기는 팀, 좋은 사람이 들어와도 금세 지쳐 나가는 조직에는 대개 개인을 넘어선 구조적 원인이 있다.

물론 개인의 책임이 사라지는 것은 아니다.

그러나 "누구 잘못인가"라는 질문에만 머물면, 사람만 갈아 끼우고 구조는 그대로 남아 문제가 반복된다.

"이 구조는 어떤 행동을 하게 만드는가"라는 질문으로 옮겨 가야 비로소 해결의 실마리가 보인다.

5. 강화 루프와 균형 루프

시스템을 살아 움직이게 하는 것은 피드백 루프다.

피드백 루프란, 시스템의 출력이 다시 입력으로 되돌아와 다음 행동에 영향을 주는 고리다.

루프에는 크게 두 종류가 있다.

강화 루프와 균형 루프다.

강화 루프 — 눈덩이

강화 루프는 변화를 같은 방향으로 증폭시킨다.

많을수록 더 많아지고, 적을수록 더 적어진다.

굴릴수록 커지는 눈덩이가 대표적인 이미지다.

돈이 이자를 낳고 그 이자가 다시 원금이 되어 더 큰 이자를 낳는 복리가 강화 루프다.

인기 있는 콘텐츠가 더 많이 추천되어 더 인기를 끌고, 그 결과 더 많이 추천되는 것도 강화 루프다.

강화 루프는 성장과 붕괴 양쪽을 모두 만든다.

선순환이 될 수도, 악순환이 될 수도 있다.

신뢰가 협력을 낳고 협력이 다시 신뢰를 키우는 것도, 불신이 방어를 낳고 방어가 다시 불신을 키우는 것도 같은 구조다.

균형 루프 — 온도조절기

균형 루프는 반대로 시스템을 특정 상태로 되돌리려 한다.

목표에서 멀어지면 다시 가까워지도록 밀어 준다.

방 온도를 일정하게 유지하는 온도조절기가 전형이다.

너무 추우면 난방을 켜고, 목표 온도에 이르면 끈다.

우리 몸이 체온과 혈당을 일정하게 유지하는 것도, 시장에서 가격이 수요와 공급에 따라 조정되는 것도 균형 루프다.

균형 루프는 안정을 만들지만, 때로는 우리가 바라는 변화를 가로막는 저항이 되기도 한다.

지연이 만드는 출렁임

루프에는 흔히 시간 지연이 끼어 있다.

행동과 결과 사이에 시간이 걸리면, 시스템은 과잉 반응과 과잉 교정을 반복하며 출렁인다.

샤워기 물 온도를 맞출 때를 떠올려 보자.

수도꼭지를 돌려도 온도 변화가 몇 초 늦게 오면, 우리는 성급하게 더 돌리고, 그러다 너무 뜨거워지면 또 급하게 반대로 돌린다.

경제의 호황과 불황, 재고의 과잉과 부족, 채용의 과열과 급랭에도 같은 지연이 숨어 있다.

시스템을 다룰 때는 "지금 반응이 없다"는 것이 "효과가 없다"는 뜻이 아님을 기억해야 한다.

6. 2차 효과, 3차 효과 — 그다음에는?

좋은 판단과 얕은 판단을 가르는 습관 하나는, "그다음에는 무슨 일이 벌어지는가"를 계속 묻는 것이다.

모든 행동에는 직접적인 1차 효과가 있다.

그러나 그 1차 효과는 다시 2차, 3차 효과를 낳는다.

얕은 사고는 1차 효과에서 멈추고, 깊은 사고는 그 너머를 본다.

익숙한 예들

도시의 교통 체증을 풀려고 도로를 넓힌다고 하자.

1차 효과로 잠시 길이 뚫린다.

그러나 길이 좋아지자 더 많은 사람이 자가용을 끌고 나오고, 도시 외곽까지 개발이 번지면서, 몇 년 뒤 교통량은 오히려 늘어난다.

이를 "유발 수요"라 부른다.

가격을 통제해 세입자를 보호하려는 임대료 상한제도 비슷하다.

1차 효과로 기존 세입자의 부담이 준다.

그러나 2차 효과로 집주인들이 새 임대 주택 공급을 줄이거나 관리를 소홀히 하고, 3차 효과로 장기적으로는 오히려 살 만한 집을 찾기 어려워질 수 있다.

여기서 요점은 특정 정책이 무조건 나쁘다는 것이 아니다.

1차 효과만 보고 판단을 멈추면, 그 이후에 펼쳐지는 진짜 결과를 놓친다는 것이다.

좋은 것의 그늘, 나쁜 것의 반전

2차 효과는 방향을 뒤집기도 한다.

당장 좋아 보이는 일이 나중에 대가를 부르고, 당장 아파 보이는 일이 나중에 이득이 된다.

편리한 진통제가 남용으로 이어지고, 힘든 운동이 건강으로 돌아오는 식이다.

그래서 결정을 내릴 때는 한 번 더 물어보는 습관이 필요하다.

"이게 성공한다면, 그다음에는 무슨 일이 벌어질까?"

"그 결과에 사람들은 또 어떻게 반응할까?"

멀리까지 완벽히 내다볼 수는 없지만, 한두 단계만 더 생각해도 값비싼 실수를 상당 부분 피할 수 있다.

7. 멱법칙과 파레토 원리 — 소수가 대부분을 좌우한다

우리는 세상이 대체로 고르게 분포한다고 상상하는 경향이 있다.

키나 몸무게처럼 평균 근처에 대부분이 몰리는 종 모양 분포에 익숙하기 때문이다.

그러나 인간이 만든 많은 시스템은 그렇게 움직이지 않는다.

소수가 전체의 대부분을 차지하는, 크게 치우친 분포를 따른다.

이런 분포를 멱법칙이라 부른다.

80대 20의 법칙

이탈리아 경제학자 빌프레도 파레토는 100여 년 전, 이탈리아 토지의 약 80퍼센트를 인구의 약 20퍼센트가 소유하고 있음을 관찰했다.

그는 다른 나라와 다른 영역에서도 비슷한 치우침이 반복된다는 데 주목했다.

여기서 "파레토 원리", 흔히 말하는 80대 20의 법칙이 나왔다.

결과의 대부분이 원인의 소수에서 나온다는 경험칙이다.

정확히 80과 20이라는 숫자가 중요한 것은 아니다.

핵심은 기여가 고르지 않고 크게 치우쳐 있다는 사실이다.

소수의 제품이 매출의 대부분을 만들고, 소수의 버그가 장애의 대부분을 일으키며, 소수의 도시가 인구의 대부분을 담는 식이다.

어디에 힘을 쏟을 것인가

파레토 원리는 강력한 실용적 함의를 준다.

모든 일이 똑같이 중요하지는 않다는 것이다.

메도스의 표현을 빌리면, "결정적인 소수"와 "사소한 다수"가 있다.

따라서 성과를 좌우하는 소수의 원인을 찾아 거기에 자원을 집중하는 편이, 모든 것에 골고루 힘을 나누는 것보다 훨씬 효과적일 때가 많다.

다만 주의할 점도 있다.

"사소한 다수"가 언제나 무시해도 좋은 것은 아니다.

안전이나 신뢰처럼, 드물지만 치명적인 실패는 빈도가 낮아도 결코 가볍게 넘길 수 없다.

파레토 원리는 우선순위를 잡는 도구이지, 나머지를 버려도 된다는 면죄부는 아니다.

8. 창발 — 전체는 부분과 다르게 움직인다

복잡한 시스템에는 신기한 성질이 있다.

부분을 아무리 자세히 들여다봐도 전체의 행동을 예측할 수 없다는 것이다.

전체 수준에서 새롭게 나타나는 이 성질을 "창발"이라 부른다.

개미 한 마리는 단순한 규칙 몇 개만 따르는 작은 존재다.

그러나 수만 마리가 모이면, 어떤 개미도 설계하지 않은 정교한 길과 집단 지능이 나타난다.

물 분자 하나에는 "젖음"이나 "물결" 같은 성질이 없다.

그러나 무수한 분자가 모이면 유동성과 파도가 창발한다.

개인의 합이 곧 사회는 아니다

창발의 관점은 사회를 볼 때 특히 유용하다.

교통 정체는 어느 한 운전자의 잘못이 아니라, 수많은 개별 결정이 상호작용하며 만들어 내는 집단적 패턴이다.

시장의 가격, 도시의 문화, 인터넷의 유행도 마찬가지다.

누구도 혼자 만들지 않았지만, 모두의 상호작용에서 저절로 떠오른다.

그래서 개인의 의도만으로 사회 현상을 설명하려 하면 자주 빗나간다.

"왜 이런 문화가 생겼지?"라는 질문의 답은, 대개 한 사람의 결단이 아니라 수많은 사람의 상호작용과 그것을 빚어낸 규칙에 있다.

아래에서 위로 보는 눈

창발을 이해하면, 큰 현상을 바꾸는 방법에 대한 감각도 달라진다.

위에서 명령을 내리는 것만으로는 창발적 패턴을 바꾸기 어렵다.

오히려 개별 행동을 지배하는 규칙과 상호작용의 방식을 바꿀 때, 전체 패턴이 서서히 다른 모양으로 떠오른다.

문화를 바꾸려면 구호를 외치기보다, 사람들이 매일 반응하는 작은 규칙과 인센티브를 바꾸는 편이 더 효과적인 이유가 여기에 있다.

9. 레버리지 포인트 — 뻔한 해법이 자주 틀리는 이유

시스템을 이해하는 목적 중 하나는, 어디를 건드려야 실제로 변화가 일어나는지를 아는 것이다.

메도스는 이런 개입 지점을 "레버리지 포인트"라 불렀다.

작은 힘으로 큰 변화를 만들 수 있는 자리다.

그런데 메도스가 거듭 강조한 역설이 있다.

우리는 대개 레버리지 포인트를 직관적으로 찾아내지만, 미는 방향이 반대인 경우가 많다는 것이다.

낮은 레버리지와 높은 레버리지

가장 손이 가는 개입은 대개 숫자를 바꾸는 것이다.

예산을 조금 늘리고, 세율을 조금 조정하고, 인원을 몇 명 더한다.

이런 개입은 눈에 잘 보이고 실행하기 쉽지만, 시스템의 근본 구조를 바꾸지 못해 효과가 작을 때가 많다.

더 큰 레버리지는 정보의 흐름, 규칙, 인센티브의 구조에 있다.

누가 무엇을 볼 수 있고, 어떤 행동이 보상받는지를 바꾸면 시스템 전체의 움직임이 달라진다.

그리고 가장 강력한 레버리지는 시스템의 목표 자체, 그리고 그 밑에 깔린 사고방식과 패러다임에 있다.

무엇을 성공으로 볼 것인가라는 정의가 바뀌면, 그 아래의 모든 것이 재배열된다.

증상이 아니라 구조를

여기서 흔한 실수가 나온다.

우리는 눈에 보이는 증상에 급히 반응하느라, 그 증상을 만들어 내는 구조는 그대로 두는 경우가 많다.

넘치는 물을 계속 퍼내면서 수도꼭지는 잠그지 않는 셈이다.

장애가 날 때마다 사람을 더 투입하지만 장애를 만드는 프로세스는 손대지 않고, 갈등이 터질 때마다 중재하지만 갈등을 낳는 구조는 그대로 두는 식이다.

진짜 레버리지는 대개 눈에 잘 띄지 않는 곳, 즉 규칙과 인센티브와 목표에 있다.

그래서 "가장 뻔한 해법"에 손이 갈 때일수록, 한 번 멈춰서 이것이 증상인지 구조인지를 물어볼 가치가 있다.

10. 복잡한 시스템이 요구하는 겸손

지금까지의 렌즈들은 세상을 더 잘 보게 해 준다.

그러나 그 렌즈들이 함께 가리키는 결론이 하나 있다.

복잡한 시스템 앞에서는 겸손해야 한다는 것이다.

수많은 요소가 피드백 루프로 얽혀 있고, 지연이 끼어 있으며, 창발이 일어나는 시스템은 본질적으로 예측하기 어렵다.

우리는 1차 효과는 어느 정도 내다볼 수 있지만, 몇 단계 뒤의 결과는 안개 속에 있다.

통제의 환상을 경계하기

이 사실은 두 가지 태도를 함께 요구한다.

한편으로는, 그렇다고 손 놓고 운에 맡기라는 뜻이 아니다.

인센티브와 구조를 이해하면 더 나은 결정을 내릴 수 있고, 최소한 큰 실수는 줄일 수 있다.

다른 한편으로는, 모든 것을 통제하고 예측할 수 있다는 자신감을 경계해야 한다.

거대한 계획일수록, 되돌리기 어려운 결정일수록, 우리가 놓친 2차 효과가 클 수 있다.

실천의 지혜

그래서 복잡한 세계에서 현명하게 움직이는 방법은 대략 이렇다.

되도록 되돌릴 수 있는 작은 실험으로 시작하고, 결과를 관찰하며, 틀렸을 때 빠르게 방향을 바꾸는 것이다.

하나의 예측에 모든 것을 걸기보다, 여러 시나리오에 대비하고 여유를 남겨 두는 것이다.

그리고 무엇보다, "내가 이 시스템을 완전히 이해하지 못했을 수 있다"는 가능성을 늘 열어 두는 것이다.

아래는 하나의 강화 루프를 단순하게 그린 그림이다.

작은 시작이 어떻게 스스로를 키워 가는지를 보여 준다.

        [ 신뢰 증가 ]
             |
             v
      더 많은 협력 시도
             |
             v
      더 나은 결과 경험
             |
             v
  [ 신뢰 더 증가 ] ---> (다시 위로: 강화 루프)

이 고리는 방향에 따라 선순환도, 악순환도 된다.

시작점의 작은 차이가 시간이 지나며 큰 격차로 벌어지는 이유가 여기에 있다.

마치며 — 표면 아래를 읽는 습관

세상은 우리가 생각하는 것보다 덜 무작위적이고, 동시에 우리가 바라는 것보다 덜 예측 가능하다.

비합리적으로 보이는 사건 뒤에는 대개 나름의 논리가 있다.

누군가가 반응하는 인센티브, 그를 둘러싼 구조, 그리고 그 구조가 만들어 내는 피드백 루프다.

이 글에서 다룬 렌즈들은 서로 연결되어 있다.

인센티브는 개별 행동을 이끌고, 그 행동들이 시스템 안에서 상호작용하며 피드백 루프를 이루고, 그 루프에서 2차 효과와 창발적 패턴이 떠오른다.

그리고 그 모든 것 위에서, 소수의 요인이 대부분의 결과를 좌우한다.

이 렌즈들은 답을 대신 내주지 않는다.

다만 더 나은 질문을 하게 해 준다.

"여기서 누가 무엇으로 보상받는가?"

"이 지표가 목표가 되면 무엇이 망가지는가?"

"이게 성공하면 그다음에는 무슨 일이 벌어지는가?"

"이건 증상인가, 구조인가?"

이런 질문을 습관처럼 던지다 보면, 세상은 조금 덜 혼란스럽고 조금 더 이해할 만한 곳이 된다.

완전한 예측은 불가능하지만, 표면 아래를 읽으려는 태도만으로도 우리는 더 신중하고 더 겸손한 판단에 다가설 수 있다.

생각할 거리

  1. 당신이 속한 조직이나 팀에서, 벽에 붙은 가치와 실제 인센티브가 어긋나는 지점은 어디인가? 사람들은 결국 무엇으로 보상받고 있는가?

  2. 최근에 목표로 삼은 지표가 있는가? 그 지표가 "목표"가 되면서 왜곡되기 시작한 신호는 없는지 돌아보자.

  3. 당신이 최근 내린 결정 하나를 골라, 1차 효과를 넘어 2차와 3차 효과까지 적어 보자. 놓치고 있던 반응이 보이는가?

  4. 당신 삶에서 강화 루프(눈덩이)와 균형 루프(온도조절기)의 예를 각각 하나씩 찾아보자. 어느 쪽을 키우고 싶고, 어느 쪽을 늦추고 싶은가?

참고 자료

How the World Works — Incentives and Systems

Opening — Behind Strange Events, There Is Usually a Reason

Watch the news for a while and the world can look deeply irrational.

Healthy companies make decisions that hurt themselves.

Well-meaning policies produce the opposite of what they intended.

Smart people gather in a room and reach a foolish conclusion.

But step back and ask "who is rewarded, and for what?" and much of the picture snaps into focus.

People mostly behave rationally from where they stand.

What looks strange is not the behavior, but the structure that produces it.

This essay is about a few lenses for reading that structure.

We will look at how incentives quietly drive behavior, how good intentions curdle into perverse outcomes, and how a measure breaks the moment it becomes a target.

From there we move through systems thinking, feedback loops, second- and third-order effects, power laws, emergence, and leverage points.

Finally, we talk about the humility that complex systems demand.

I will lean on everyday scenes rather than jargon wherever I can.

The goal is not to hand you a formula for predicting the world.

It is to help you see, a little better, what is moving beneath the surface of events.

1. "Show Me the Incentive and I Will Show You the Outcome"

The investor Charlie Munger put it plainly.

"Show me the incentive and I will show you the outcome."

It is a simple line, but a powerful first tool for reading the world.

To understand what someone does, look less at their character or morality and more at the rewards and punishments they live under.

Munger liked to tell an old story about FedEx.

At a night sorting hub, workers could not finish their shift on time no matter how much they were urged.

As long as they were paid by the hour, there was no reason to work faster.

When the company started paying by the shift and letting people go home once the work was done, the problem all but disappeared.

The people had not changed.

The incentive had.

Incentives Speak Louder Than Words

Organizations love to post their values on the wall.

"We value quality." "We respect collaboration."

But what actually drives behavior is not the sentence on the wall; it is what leads to a promotion or a bonus.

If promotions are decided by individual output alone, no amount of shouting "collaboration" will make people collaborate.

If the metrics reward only shipping speed, quality quietly slips to the back.

When incentives and official slogans collide, the incentives almost always win.

So to understand any organization or society, read its reward structure, not its mission statement.

Good People, Bad Structures

An important corollary is that bad outcomes do not necessarily come from bad people.

Decent people produce bad results under twisted incentives.

Conversely, good incentives draw good results out of ordinary people.

Of course, incentives are not everything.

People respond not only to money and status but to intangible rewards like pride, belonging, and meaning.

Still, when you cannot make sense of why a situation unfolds the way it does, "who is rewarded here, and for what?" is almost always a good place to start.

2. Perverse Incentives and Unintended Consequences

If incentives are powerful, then badly designed incentives are powerfully dangerous.

The most famous example is the "Cobra effect."

In colonial Delhi, the authorities wanted to reduce the number of venomous cobras, so they offered a bounty for every dead cobra.

At first it seemed to work.

But soon people began breeding cobras to collect the bounty.

When the authorities noticed and scrapped the program, the now-worthless cobras were released, and the wild population ended up larger than before.

A reward meant to solve a problem made exactly that problem worse.

This pattern, where a reward intended to shrink a problem ends up feeding it, is called the Cobra effect.

What You Can Measure Versus What You Want

Perverse incentives usually share one root.

What we truly want and what we reward are not the same thing.

We want "a safe city" but reward "fewer reported crimes," which creates pressure not to record reports.

We want "a healthy codebase" but reward "a high test-coverage number," which breeds hollow tests that verify nothing.

Reward "short call times" in a call center, and agents will hang up quickly instead of solving the problem.

The harder the outcome we want is to measure, the more people optimize a measurable substitute while the real goal drifts away.

The Streisand Effect

Unintended consequences show up in the world of information too.

In 2003, the singer Barbra Streisand sued to have an aerial photo of her clifftop home removed from the internet.

The photo was part of a large public survey documenting coastal erosion, and almost no one had looked at it before the lawsuit.

Once the lawsuit became known, curiosity exploded, and the image spread to hundreds of thousands of people almost overnight.

The phenomenon in which an attempt to hide something dramatically increases attention to it is named, after this episode, the Streisand effect.

Both stories carry the same lesson.

When you design behavior, ask not only "what happens if this succeeds?" but "how will people react to this rule?"

3. Goodhart's Law — When a Measure Becomes a Target

Named after the economist Charles Goodhart, Goodhart's law can be summarized this way.

"When a measure becomes a target, it ceases to be a good measure."

The anthropologist Marilyn Strathern shaped this widely quoted phrasing.

The core idea is this.

A metric is useful when it is simply an observation that reflects reality.

But the moment that metric itself becomes the basis for reward and punishment, people start gaming the metric rather than improving reality.

The Familiar Example of Test Scores

Think of exams at school.

A test score is meant to be a proxy for how well a student understands the material.

But when a school's funding and evaluation hinge on test scores, teaching narrows to "whatever appears on the test."

Memorizing question types replaces deep understanding, and in some places outright cheating appears.

Scores go up, while the "understanding" they were supposed to measure stays flat or even declines.

The moment the measure became the target, its link to reality was cut.

How to Hold a Metric

Goodhart's law does not mean "never use metrics."

You cannot run a large organization without them.

It means you should treat a metric not as an absolute goal but as an imperfect signal that can always be distorted.

Pin all the rewards on a single number, and that number will inevitably be distorted.

So it is wiser to watch several metrics that check one another, to confirm the real situation behind the numbers qualitatively, and to keep in mind the original purpose the metric was standing in for.

A number is a map, not the territory.

Get absorbed in coloring the map nicely, and you can drift away from where you actually meant to go.

4. Systems Thinking — Stocks, Flows, and Feedback

Everything so far leads into one larger frame.

That frame is systems thinking.

Systems thinking is the habit of seeing events not as isolated points but within the web of relationships among connected elements.

The classic text in this field is Donella Meadows's book "Thinking in Systems."

Meadows describes systems in three languages.

Stocks, flows, and feedback loops.

Stocks and Flows

A stock is the amount accumulated at a given moment.

The water in a bathtub, the balance in a bank account, the technical debt a team has piled up, the trust a society holds.

A flow is the movement that raises or lowers that stock.

Water from the faucet and water down the drain, deposits and withdrawals, new debt taken on and debt paid off.

We often fixate only on the current level of the stock.

But the real behavior of a system is set by the balance between inflow and outflow.

The tub overflows not because the water is "a lot," but because the inflow exceeded the outflow for long enough.

Debt piles up because it was taken on faster than it was repaid, steadily, over time.

Blame the Individual and You Miss the System

The most practical lesson of systems thinking is this.

When bad results keep recurring, the problem usually lies in the structure, not the person.

If you swap the person in charge and the same problem returns, the position itself is probably producing the bad outcome.

A process that keeps creating bottlenecks, a team that always misses deadlines, an organization where good people burn out fast, usually has a structural cause beyond any individual.

This does not erase personal responsibility.

But if you stay stuck on "whose fault is it?", you keep replacing people while the structure remains and the problem repeats.

Only when you shift to "what behavior does this structure encourage?" does a path to a fix begin to appear.

5. Reinforcing Loops and Balancing Loops

What makes a system come alive is its feedback loops.

A feedback loop is a circle in which a system's output flows back into its input and shapes the next round of behavior.

There are broadly two kinds.

Reinforcing loops and balancing loops.

Reinforcing Loops — The Snowball

A reinforcing loop amplifies change in the same direction.

More leads to more; less leads to less.

The image is a snowball that grows as it rolls.

Compound interest, where money earns interest that becomes principal that earns still more interest, is a reinforcing loop.

Popular content that gets recommended more, becomes more popular, and is therefore recommended even more, is a reinforcing loop.

Reinforcing loops create both growth and collapse.

They can run as virtuous cycles or vicious ones.

Trust that breeds cooperation that breeds more trust, and distrust that breeds defensiveness that breeds more distrust, share the same structure.

Balancing Loops — The Thermostat

A balancing loop, by contrast, pushes a system back toward a particular state.

When things drift from the target, it nudges them back.

The classic case is a thermostat keeping a room at a steady temperature.

Too cold, and the heat turns on; reach the target, and it turns off.

Your body keeping its temperature and blood sugar steady, and a market adjusting prices to supply and demand, are balancing loops.

Balancing loops create stability, but they can also become the resistance that blocks a change we want.

The Wobble That Delays Create

Loops often contain time delays.

When there is a lag between action and result, a system tends to overshoot and overcorrect, wobbling back and forth.

Think of adjusting the water temperature in a shower.

If the temperature responds a few seconds after you turn the knob, you impatiently turn it further, then, when it turns scalding, you yank it back the other way.

The same delays hide inside economic booms and busts, gluts and shortages of inventory, and overheated then frozen hiring.

When you work with a system, remember that "no reaction right now" does not mean "no effect."

6. Second- and Third-Order Effects — And Then What?

One habit that separates good judgment from shallow judgment is asking, again and again, "and then what happens?"

Every action has a direct, first-order effect.

But that first-order effect goes on to produce second- and third-order effects.

Shallow thinking stops at the first order; deeper thinking looks past it.

Familiar Examples

Suppose a city widens a road to relieve traffic.

The first-order effect is that, briefly, the road clears.

But as the road improves, more people drive, development spreads to the outskirts, and a few years later traffic is heavier than before.

This is called "induced demand."

Rent control, which caps prices to protect tenants, is similar.

The first-order effect eases the burden on existing tenants.

But the second-order effect is that landlords build less new rental housing or let maintenance slide, and the third-order effect can be that, over time, decent housing becomes even harder to find.

The point here is not that a given policy is simply bad.

It is that if you stop at the first-order effect, you miss the real consequences that unfold afterward.

The Shadow of Good Things, the Reversal of Bad Ones

Second-order effects can even flip the sign.

Something that looks good now exacts a price later, and something that hurts now pays off later.

A convenient painkiller leads to abuse; hard exercise returns as health.

So when you make a decision, it helps to ask one more question.

"If this succeeds, what happens next?"

"And how will people react to that result in turn?"

You cannot see perfectly far ahead, but thinking even one or two steps further avoids a large share of costly mistakes.

7. Power Laws and the Pareto Principle — The Vital Few

We tend to imagine that the world is distributed fairly evenly.

We are used to bell-shaped distributions, like height or weight, where most cases cluster near the average.

But many human systems do not behave that way.

They follow steeply skewed distributions, where a small minority accounts for most of the whole.

Such distributions are called power laws.

The 80/20 Rule

More than a century ago, the Italian economist Vilfredo Pareto observed that about 80 percent of Italy's land was owned by about 20 percent of the population.

He noticed similar skews recurring in other countries and other domains.

From this came the "Pareto principle," commonly called the 80/20 rule.

It is a rule of thumb that most of the results come from a small share of the causes.

The exact figures 80 and 20 are not what matter.

What matters is that contribution is uneven and heavily skewed.

A few products make most of the revenue, a few bugs cause most of the outages, a few cities hold most of the population.

Where to Spend Your Effort

The Pareto principle carries a strong practical implication.

Not everything is equally important.

In Meadows's phrase, there is a "vital few" and a "trivial many."

So finding the small set of causes that drive outcomes and concentrating resources there is often far more effective than spreading effort evenly across everything.

There is a caveat, though.

The "trivial many" are not always safe to ignore.

Rare but catastrophic failures, in safety or trust, cannot be waved away just because they are infrequent.

The Pareto principle is a tool for setting priorities, not a license to discard the rest.

8. Emergence — The Whole Behaves Unlike Its Parts

Complex systems have a curious property.

No matter how closely you inspect the parts, you cannot predict the behavior of the whole.

This property, which appears newly at the level of the whole, is called "emergence."

A single ant is a small creature following a handful of simple rules.

But gather tens of thousands, and intricate trails and a collective intelligence appear that no single ant designed.

A single water molecule has no property of "wetness" or "waviness."

But gather countless molecules, and fluidity and waves emerge.

The Sum of Individuals Is Not the Society

The emergent view is especially useful when looking at society.

A traffic jam is not the fault of any one driver; it is a collective pattern produced by countless individual decisions interacting.

Market prices, a city's culture, an internet trend are the same.

No one created them alone, yet they rise, on their own, out of everyone's interaction.

So trying to explain a social phenomenon by individual intentions alone often misses the mark.

The answer to "why did this culture arise?" usually lies not in one person's decision but in the interaction of many people and the rules that shaped it.

Seeing From the Bottom Up

Understanding emergence also changes your sense of how to change a large phenomenon.

Issuing orders from the top rarely shifts an emergent pattern.

Rather, when you change the rules that govern individual behavior and the way interactions happen, the whole pattern gradually rises into a different shape.

This is why, to change a culture, altering the small rules and incentives people respond to every day tends to work better than chanting slogans.

9. Leverage Points — Why the Obvious Fix Is Often Wrong

One purpose of understanding a system is to know where to push so that change actually happens.

Meadows called such places "leverage points."

They are spots where a small force can produce a large change.

But she stressed a paradox again and again.

We usually do locate leverage points intuitively, yet we often push them in the wrong direction.

Low Leverage and High Leverage

The most tempting intervention is usually to change a number.

Nudge the budget up a bit, tweak the tax rate, add a few people.

Such interventions are visible and easy to execute, but they rarely change the underlying structure of the system, so their effect is often small.

Greater leverage lies in the flows of information, the rules, and the structure of incentives.

Change who can see what, and which behaviors are rewarded, and the behavior of the whole system shifts.

And the most powerful leverage lies in the goal of the system itself, and in the mindset or paradigm beneath it.

When the definition of what counts as success changes, everything below it rearranges.

Structure, Not Symptom

A common mistake follows from this.

We rush to react to visible symptoms while leaving the structure that produces them untouched.

It is like bailing out the overflowing water while never turning off the faucet.

We add more people every time there is an outage but never touch the process that causes outages; we mediate every time a conflict erupts but leave the structure that breeds conflict in place.

Real leverage usually sits where it is hard to see, in the rules, the incentives, and the goals.

So the more tempting the "most obvious fix" feels, the more it is worth pausing to ask whether you are looking at a symptom or a structure.

10. The Humility That Complex Systems Demand

The lenses so far help you see the world more clearly.

But they all point together toward one conclusion.

Before a complex system, you should be humble.

A system with many elements tangled in feedback loops, laced with delays, and prone to emergence is inherently hard to predict.

We can foresee first-order effects reasonably well, but results several steps out sit in fog.

Guarding Against the Illusion of Control

This fact calls for two attitudes at once.

On one hand, it does not mean throwing up your hands and leaving things to luck.

Understanding incentives and structure lets you make better decisions and, at least, avoid the large mistakes.

On the other hand, you should be wary of the confidence that everything can be controlled and predicted.

The grander the plan, and the harder the decision is to reverse, the larger the second-order effect you may have missed.

The Wisdom of Practice

So the way to move wisely in a complex world looks roughly like this.

Start with small, reversible experiments where you can, observe the results, and change course quickly when you are wrong.

Rather than betting everything on a single forecast, prepare for several scenarios and leave yourself some slack.

And above all, keep open the possibility that "I may not fully understand this system."

Below is a simple sketch of one reinforcing loop.

It shows how a small beginning can grow itself.

        [ Trust rises ]
              |
              v
     More attempts to cooperate
              |
              v
     Better outcomes experienced
              |
              v
   [ Trust rises further ] ---> (back to top: reinforcing loop)

Depending on its direction, this circle runs as a virtuous cycle or a vicious one.

That is why a small difference at the start widens, over time, into a large gap.

Closing — The Habit of Reading Beneath the Surface

The world is less random than we think, and at the same time less predictable than we wish.

Behind events that look irrational, there is usually a logic of its own.

The incentive someone is responding to, the structure around them, and the feedback loops that structure produces.

The lenses in this essay are connected.

Incentives drive individual behavior, those behaviors interact within a system to form feedback loops, and from those loops second-order effects and emergent patterns arise.

And over all of it, a small number of factors drives most of the results.

These lenses do not hand you the answers.

They help you ask better questions.

"Who is rewarded here, and for what?"

"If this measure becomes the target, what breaks?"

"If this succeeds, what happens next?"

"Is this a symptom, or a structure?"

Ask these questions as a habit, and the world becomes a little less bewildering and a little more understandable.

Perfect prediction is impossible, but the mere posture of reading beneath the surface brings us closer to more careful and more humble judgment.

Questions to Ponder

  1. In your organization or team, where do the values on the wall diverge from the real incentives? What are people ultimately rewarded for?

  2. Is there a metric you have recently set as a target? Look back for any signs that it began to distort once it became the goal.

  3. Take one decision you made recently and write out its second- and third-order effects, not just the first. Do you see a reaction you were missing?

  4. Find one example each of a reinforcing loop (a snowball) and a balancing loop (a thermostat) in your own life. Which would you like to grow, and which would you like to slow?

References