Aumann의 합의 정리: 왜 "다 아는 사실"을 공개적으로 말하면 세상이 바뀔까

오늘은 **Aumann의 agreement theorem(합의 정리)**를 파봤다. 한 줄로 요약하면 이거다.

같은 사전확률(prior)을 가진 베이즈적 행위자들이 서로의 사후확률을 공통지식(common knowledge) 로 공유하면, 결국 서로 다른 믿음을 유지할 수 없다. 즉, 진짜 조건이 맞으면 "합리적으로 agree to disagree"는 불가능하다.

처음엔 "아니 현실에선 맨날 똑똑한 사람들끼리도 의견 갈리는데?" 싶었다. 근데 파고 보니 포인트는 현실의 인간이 비합리적이라서가 아니라, 정리가 요구하는 조건이 진짜 빡세다는 데 있었다.

핵심은 정보량이 아니라 정보의 구조

이 정리를 이해하려면 common knowledge가 거의 전부다.

• A가 X를 안다
• B가 X를 안다
• A가 B가 X를 안다는 걸 안다
• B가 A가 B가 X를 안다는 걸 안다
• ... 무한 반복

이 계층이 맞물려야 공통지식이다. 단순히 "둘 다 알고 있음"이 아니다.

이게 왜 중요한지 보여주는 고전 퍼즐이 "muddy children(진흙/얼룩 퍼즐)"인데, 구조가 정말 예쁘다. 모두가 이미 "적어도 한 명은 얼굴에 얼룩이 있다"는 사실을 사실상 알고 있는 상태에서도, 교사가 그 말을 공개 선언하자 추론이 진행되기 시작한다. 정보 자체는 새롭지 않은데, "모두가 모두가 안다는 사실"이 생성되면서 게임판이 바뀐다.

이 부분이 오늘 제일 재미있었다. 우리는 보통 정보를 양으로만 보는데, 실제로는 메타-정보의 공개성이 행동을 바꾼다.

Aumann 정리의 직관

정식 증명은 상태공간, 파티션, 조건부기대값으로 간다. 직관만 잡으면:

1. 두 사람이 같은 prior를 갖고 시작한다.
2. 각자 다른 관측을 보고 posterior를 업데이트한다.
3. 그런데 "A의 posterior가 p, B의 posterior가 q"라는 사실이 공통지식이 된다.
4. 그러면 각자 입장에서 가능한 세계들을 평균내는 방식이 서로 맞물리며, 결국 p=q가 강제된다.

즉 서로의 믿음이 공통지식이면, 그 차이 자체가 유지될 여지가 사라진다.

여기서 자주 생기는 오해:

• "서로 대화했으니 언젠가 같아진다"가 아님
• "둘 다 똑똑하면 무조건 같은 결론"도 아님

정확히는 같은 prior + 베이즈 업데이트 + 공통지식이라는 조합일 때만 성립한다. 하나만 빠져도 agree to disagree가 가능해진다.

그래서 현실에서는 왜 자주 불일치할까?

오히려 이 정리가 현실의 불일치를 설명하는 도구처럼 느껴졌다. 불일치가 남는 이유 후보:

1. common prior가 아닐 수 있음
   성장 배경, 신뢰 네트워크, 경험 샘플링이 다르면 시작점부터 다르다.

2. 공통지식이 성립하지 않음
   상대가 뭘 근거로 믿는지, 그 근거를 내가 어떻게 해석하는지, 그걸 상대가 어떻게 예상하는지… 이 계층이 금방 끊긴다.

3. 애초에 베이즈적으로 업데이트하지 않음
   인간은 계산기라기보다 스토리 머신에 가깝다. 동기화된 priors와 깨끗한 likelihood를 기대하기 어렵다.

4. 언어의 모호성(ambiguity)
   같은 문장을 서로 다른 의미로 파싱하면, 겉보기엔 같은 정보 교환을 했어도 실제론 다른 신호를 받은 셈이다.

정리의 결론("합리적이면 못 갈린다")보다, 이 전제 체크리스트가 더 실용적이었다.

내가 받은 가장 큰 인사이트: "공개 발화"는 계산을 리셋한다

Aaronson의 설명에서 특히 꽂힌 부분은 이거였다. 공개적으로 말해버리는 순간, 단순 사실 전달 이상이 일어난다.

• 너는 X를 안다
• 나는 네가 X를 안다는 걸 안다
• 너는 내가 네가 X를 안다는 걸 안다는 걸 안다

이게 순식간에 상승한다. 그래서 사회/정치/협상에서 "이미 다들 알고 있는 말"을 굳이 공식석상에서 선언하는 행위가 엄청 중요해진다. 선언은 새 데이터가 아니라 상호 인식 그래프를 재배선하는 이벤트다.

이걸 조직 운영에 대입하면 더 명확하다.

• 팀원 각자가 문제를 "느낌상" 알고 있어도, 회의에서 명시적으로 말하지 않으면 아무도 움직이지 않는다.
• 반대로 모두가 어렴풋이 아는 리스크를 공식 문서에 박는 순간, 책임과 행동이 생긴다.

내가 자주 보는 "왜 이제 와서 다들 반응하지? 다 알던 건데" 현상은, 사실 정보 부족이 아니라 common knowledge 부족인 경우가 많다.

재즈/즉흥과의 연결 (내 머릿속 개인적 연결)

이걸 음악으로 끌어오면 재미있다. 밴드에서 어떤 긴장감 있는 대체 코드나 리듬 displacement를 누군가 던졌을 때,

• 각자 들었다(개별 지식)
• "다른 멤버도 들었겠지"까지는 간다(상호지식)
• 그런데 "지금 이걸 밴드 공통의 의도로 채택했다"는 공통지식이 생기지 않으면, 연주는 갈라진다.

그래서 아이컨택, 몸짓, 강한 액센트 같은 "공개 신호"가 중요하다. 이건 말 그대로 무대 위 common knowledge 생성 장치다. 오늘 공부하면서 "지휘 없이 합이 맞는 팀"의 비밀이 조금 수학적으로 보였다.

다음에 더 파고 싶은 질문

1. "거의" 공통지식일 때는 어떻게 되나?
   완전한 common knowledge는 현실적으로 과하니까, "epsilon-common knowledge" 상황에서 합의 속도/오차를 어떻게 다루는지 더 보고 싶다.

2. 계산 비용이 큰 에이전트는?
   이론상 무한 중첩 추론 대신 제한된 depth만 계산하면, 어떤 체계적 불일치가 남는지.

3. LLM 멀티에이전트 시스템에 적용 가능성
   서로 다른 컨텍스트 윈도우/메모리 정책을 쓰는 에이전트가 합의할 때, 무엇을 "공개 로그"로 만들면 convergence가 빨라지는지.

오늘 결론: Aumann 정리는 "합리적이면 다 같은 생각" 같은 단순한 선언이 아니라, 사람들이 왜 같은 사실을 두고도 계속 엇갈리는지 역으로 설명해주는 현미경에 더 가깝다. 그리고 그 핵심 단어는 정보가 아니라, 공통지식이다.