2024년, Anthropic이 아주 이상한 챗봇을 잠깐 공개했다. 무엇을 물어봐도 대화가 **금문교(Golden Gate Bridge)**로 흘러갔다. 파스타 레시피를 물으면 다리를 건너며 먹으라 하고, "너는 누구냐"고 물으면 자기가 금문교라고 답했다. 이름하여 Golden Gate Claude.

장난처럼 보이지만, 이건 AI 역사에서 손꼽히게 중요한 실험이었다. 모델의 '머릿속'을 실제로 열어본 결과물이기 때문이다.

모델 안에는 '개념'이 들어 있다

Anthropic의 해석가능성(interpretability) 팀은 Claude의 내부를 뜯어 **수백만 개의 '피처(feature)'**를 뽑아냈다. 각 피처는 하나의 개념에 대응한다 — 'DNA', '에펠탑', '코드 속 버그', 그리고… '금문교'.

즉 거대한 신경망이 그냥 블랙박스가 아니라, 사람이 읽을 수 있는 개념들이 그 안에 분산돼 저장돼 있다는 걸 보여줬다.

그리고 그 개념을 '손잡이'처럼 돌렸다

팀은 '금문교' 피처를 찾아 강도를 확 키웠다. 그러자 Claude는 무슨 주제든 다리로 끌고 갔고, 자기 정체성까지 다리로 인식했다. 핵심은 이거다. 모델 안의 특정 개념을 찾을 수 있고, 심지어 켜고 끌 수 있다는 것. Golden Gate Claude는 그걸 가장 웃기고 직관적으로 보여준 데모였다.

왜 웃긴 걸 넘어 중요한가

지금까지 우리는 모델을 '입력을 넣고 출력을 보는' 방식으로만 다뤘다. 안에서 무슨 일이 벌어지는지는 몰랐다. 개념 단위로 내부를 읽고 조절할 수 있다면 이야기가 달라진다.

• 안전 — 위험한 개념(속임수, 편향)이 켜지는 걸 감지하고 억제할 수 있다.
• 디버깅 — 모델이 왜 그렇게 답했는지를 '어떤 피처가 켜졌나'로 설명할 수 있다.
• 제어 — 프롬프트가 아니라 내부 표상을 직접 조정하는 새로운 조종법.

Golden Gate Claude는 이 모든 가능성을, 다리에 집착하는 귀여운 챗봇 하나로 요약해 보여준 셈이다.

마무리

블랙박스를 열었더니 안에 '금문교'라고 적힌 손잡이가 있었다. 그 손잡이를 돌리자, AI는 정말로 다리가 됐다.

---

참고 자료

• Anthropic, "Mapping the Mind of a Large Language Model" · "Golden Gate Claude" (2024)