쓰라린 교훈: 리치 서턴의 AI 에세이 해설

AI 붐 뒤에 숨은 한 문장

2019년 3월 13일, 리처드 서턴은 자신의 개인 웹사이트에 짧은 에세이를 올렸습니다. 서턴은 과장을 일삼는 사람이 아닙니다. 그는 강화 학습의 창시자 중 한 명이자, 그 분야의 표준 교과서 공저자이며, 이후 튜링상 수상자가 된 인물입니다. 그 에세이는 겨우 한 페이지가 조금 넘습니다. 하지만 그 십 년간 출간된 어떤 경영서보다도 더 많은 수십억 달러짜리 결정에 영향을 미쳤다고 해도 과언이 아닙니다.

그 첫 문장이 곧 논증 전체입니다: "70년간의 AI 연구에서 읽어낼 수 있는 가장 큰 교훈은, 연산을 활용하는 일반적 방법들이 궁극적으로 가장 효과적이며, 그것도 큰 격차로 그렇다는 것이다."

이 문장을 두 번 읽어 보십시오. 겉보기보다 덜 자명하기 때문입니다. 서턴은 연산이 도움이 된다고 말하는 게 아닙니다. 그는 장기적으로 연산만이 확실히 이기는 유일한 것이며, 우리가 애정을 담아 시스템에 심어 넣는 인간 지식은 오히려 방해가 되는 경향이 있다고 말합니다. 순수한 연산과 함께 확장되는 방법들이, 똑똑한 사람들이 이미 알아낸 것을 부호화한 방법들을 이깁니다. 조금이 아닙니다. 큰 격차로 이깁니다.

그 주장은 거의 반지성적으로 들립니다. 문제의 특수한 구조를 이해하는 도메인 전문가가 대개 지는 쪽이라고 말하기 때문입니다. 그리고 서턴은 이것을 이론으로 논증하지 않았습니다. 그는 AI 연구자들이 같은 실수를 반복하고, 그것이 실패하는 것을 지켜보고, 다시 그 실수를 저지른 60년의 세월로 이를 논증했습니다.

60년, 네 번 반복된 같은 실수

이 에세이의 힘은 그것이 의견이 아니라 패턴이라는 데 있습니다. 서턴은 같은 영화가 상영된 네 개의 분야를 짚어 갑니다.

체스. 수십 년 동안 컴퓨터 체스 연구자들은 인간의 체스 이해를 부호화하려 했습니다. 오프닝 이론, 위치 감각의 휴리스틱, 그랜드마스터들의 지혜 말입니다. 그러다 1997년, IBM의 딥 블루가 초당 수억 개의 국면을 평가하는 방대하고 깊은 탐색으로 세계 챔피언 개리 카스파로프를 이겼습니다. 딥 블루는 그랜드마스터처럼 체스를 "이해"하지 않았습니다. 탐색했을 뿐입니다. 지식 기반 접근은 특수 목적 하드웨어에서 돌아가는 순수한 앞수 읽기에 졌습니다.

바둑. 바둑은 다를 것으로 여겨졌습니다. 판이 너무 커서 무차별 대입 탐색이 불가능하니, 인간의 직관이 필수로 남을 게임은 분명 바둑이라고 여겨졌습니다. 그런데 딥 블루로부터 약 20년 뒤인 2016년, 딥마인드의 알파고가 이세돌을 이겼고, 그 후속작인 알파제로는 인간의 기보 없이 셀프 플레이만으로 초인적인 바둑, 체스, 쇼기를 처음부터 배웠습니다. 같은 이야기, 같은 결말: 탐색 더하기 학습이 부호화된 인간 지식을 이겼습니다.

음성 인식. 1970년대로 거슬러 올라가면, DARPA가 음성 인식 경진 대회를 열었습니다. 한 진영은 단어, 음소, 인간의 성도에 대한 지식을 사용했습니다. 다른 진영은 언어에 대해 덜 알면서 연산은 더 많이 하는 통계적 방법과 은닉 마르코프 모델을 사용했습니다. 통계가 이겼습니다. 수십 년 뒤, 딥 러닝이 같은 교훈을 한층 더 밀어붙였고, 현대의 음성 시스템에는 손으로 짠 언어학이 거의 들어 있지 않습니다.

컴퓨터 비전. 초기 비전 연구는 에지, 코너, 그리고 SIFT 같은 영리한 수작업 특징을 찾아 헤맸습니다. 그러다 2012년, AlexNet으로 알려진 심층 신경망이 인간이 설계한 특징 대신 합성곱, GPU, 데이터를 사용해 ImageNet 벤치마크의 오류율을 단번에 약 26%에서 약 16%로 낮췄습니다. 한 세대의 연구자들이 다듬어 온 수작업 파이프라인은 몇 년 만에 사라졌습니다.

네 개의 분야, 네 무리의 전문가, 하나의 결과. 매번 문제를 가장 잘 이해한 사람들이 지는 접근법을 지지했습니다.

왜 그들은 그것을 "쓰라리다"고 불렀나

사람들이 건너뛰는 대목이 여기입니다. 이 교훈은 단지 "연산이 이긴다"가 아닙니다. 그 승리가 기분 나쁘게 느껴지고, 그 나쁜 기분 때문에 똑똑한 사람들이 계속 저항한다는 것입니다.

딥 블루가 탐색으로 이겼을 때, 서턴은 인간 지식 진영의 체스 연구자들의 반응이 호기심이 아니었다고 지적합니다. 그것은 신 포도에 가까운 무엇이었습니다. 그들은 체스의 경지가 깊은 위치 이해를 요구한다는 생각 위에 경력을 쌓아 왔는데, 대체로 탐색만 하는 기계가 방금 그 생각을 망신시킨 것입니다. 그의 말을 빌리면, 그들은 "패배를 받아들일 줄 몰랐습니다."

이 패턴에는 감정의 논리가 있습니다. 자신의 지식을 시스템에 심는 일은 만족스럽습니다. 그것은 시스템을 오늘 더 잘 작동하게 만들고, 그 개선이 자신의 통찰에서 나온 것처럼 느끼게 합니다. 그 단기적 보상은 진짜이며, 바로 그렇기 때문에 함정입니다. 나중에 정체를 부르는 바로 그 수에 대해 지금 보상을 받는 것입니다.

이 순환에 대한 서턴의 요약은 머릿속에 담아 둘 가치가 있습니다:

• 연구자들이 인간 지식을 자신의 시스템에 심는다.
• 그것은 단기적으로 도움이 되고, 기분이 좋다.
• 시간이 지나면 정체되고, 더 나아가지 못하도록 적극적으로 막을 수도 있다.
• 돌파구는 결국 반대 방향에서 온다: 탐색과 학습을 통해 연산을 확장하는 것.

이 교훈이 쓰라린 이유는 무시하고 싶은 유혹이 결코 사라지지 않기 때문입니다. 모든 새로운 분야는 이번만큼은 인간의 통찰이 필수라고, 이 문제는 특별하다고 확신하며 등장합니다. 지금까지 그 확신의 전적은 패배로 남아 있습니다.

탐색과 학습: 확장되는 유일한 두 가지

인간 지식이 정체되는 것이라면, 정체되지 않는 것은 무엇일까요? 서턴은 정확히 두 가지를 꼽습니다: 탐색과 학습.

둘은 드문 성질을 공유합니다. 연산을 더 쏟아부으면 나아지고, 계속 나아집니다. 탐색은 하드웨어가 개선될수록 초당 더 많은 가능성을 탐험합니다. 학습은 모델과 연산이 커질수록 더 많은 데이터에서 더 많은 구조를 뽑아냅니다. 둘 다 인간이 이미 답을 알아냈는지에 의존하지 않으며, 그래서 둘 다 같은 천장에 부딪히지 않습니다.

여기가 서턴의 논증이 철학적으로 바뀌는 지점이며, 그의 최고의 문장이 자리한 곳입니다. 지식을 손으로 부호화하는 일을 멈춰야 하는 이유는 "마음의 실제 내용물이 엄청나게, 돌이킬 수 없이 복잡하기" 때문이라고 그는 씁니다. 우리가 공간, 사물, 다른 행위자, 대칭에 대해 생각하는 방식은 우리가 적어 낼 수 있는 어떤 깔끔한 규칙보다 훨씬 더 지저분합니다. 그래서 우리가 이해를 시스템에 압축해 넣으려 할 때, 우리는 실제 지능의 손실 많고 과도하게 단순화된 만화를 출시하는 셈입니다.

그의 처방은 곧바로 뒤따릅니다. 사고의 내용물을 심으려 하지 마십시오. 그 복잡성을 스스로 찾아낼 수 있는 메타 방법을 심으십시오. 그의 표현대로, 우리는 "우리가 발견한 것을 담고 있는 것이 아니라, 우리처럼 발견할 수 있는" AI 에이전트를 원합니다. 시스템에 탐색하고 학습하는 능력을 주고, 물러나서, 당신이 결코 손으로 하지 못할 일을 규모가 하도록 두십시오.

지식에 관심 있는 사람이라면 누구에게나, 그 재구성은 AI보다 큽니다. 그것은 가장 레버리지가 큰 수가 머릿속에 완성된 답을 더 채워 넣는 것이 아님을 시사합니다. 계속 발견할 수 있는 시스템을 짓는 것입니다. 그 발상은 계속 자라도록 설정해 두었을 때 지식이 이자처럼 복리로 쌓이는 이유와 곧바로 연결됩니다.

현대의 증거: 스케일링 법칙과 셀프 플레이

2019년의 에세이가 예언처럼 읽히는 이유는, 그 직후의 몇 년이 하나의 긴 확증으로 바뀌었기 때문입니다.

2020년, 제러드 카플란이 이끄는 팀이 "Scaling Laws for Neural Language Models"를 발표했습니다. 모델 크기, 데이터, 연산을 늘리면 모델의 성능이 매끄러운 거듭제곱 법칙에 따라 개선된다는 것을 보였습니다. 더 크고 더 일관되게라는 조건은 여러 자릿수에 걸쳐 더 나음을 뜻했습니다. 그 논문은 대형 언어 모델을 확장하려는 경주 전체에 대한 지적 면허가 되었습니다. 2022년, 딥마인드의 친칠라 연구는 이 레시피를 다듬어, 많은 모델이 크기에 비해 데이터로 충분히 학습되지 못했음을 보이며 그 비율을 재조정했습니다.

딥 블루에서 GPT로 이어지는 관통선은 새 옷을 입은 같은 교훈입니다. 알파제로는 인간의 기보 없이 셀프 플레이만으로 세계 정상급 실력을 배웠는데, 이것이 최대 볼륨의 탐색과 학습입니다. 언어 모델은 손으로 쓴 문법과 추론 규칙이 아니라, 막대한 연산 예산 위에서 바다처럼 방대한 텍스트에 걸쳐 다음 토큰을 예측하는 데서 놀라운 능력을 배웠습니다. OpenAI에서 딥마인드, Anthropic에 이르기까지 영리함보다 규모에 베팅한 모든 연구소는, 그를 인용했든 안 했든, 서턴의 플레이북을 실행하고 있었습니다.

그 모든 것 아래에 있는 복리 엔진은 가용 연산의 지수적 성장입니다. 서턴의 논증 전체는 연산이 계속 저렴해진다는 가정에 기대고 있으며, 그래서 연산을 더 많이 흡수할 수 있는 어떤 방법이든 결국 이깁니다. 그것은 폴 그레이엄이 스타트업에서 묘사하는 초선형 수익의 가까운 사촌입니다: 복리로 쌓이는 것을 고르면 시간이 힘든 일을 대신해 줍니다.

쓰라린 교훈이 반격하는 지점

좋은 해설은 이 발상이 어디에서 반박되는지 말해야 합니다. 실제로 반박되기 때문입니다. "쓰라린 교훈"을 복음처럼 다루는 것은 그 자체로 또 다른 실수입니다.

가장 많이 인용된 반박은 빠르게 나왔습니다. 2019년 3월, 로봇공학자 로드니 브룩스가 "A Better Lesson"을 발표했습니다. 그의 요점은 이렇습니다: 인간 지식 진영은 사실 죽지 않았고, 자리를 옮겼을 뿐이다. 컴퓨터 비전에서 "이긴" 합성곱 신경망에는 인간 설계자들이 이동 불변성을 심어 넣었습니다. 모델 아키텍처, 토크나이저, 학습 설정은 인간의 사전 지식으로 가득합니다. 우리는 인간의 영리함을 없앤 게 아니라, 그것을 학습 기계의 구조 속으로 옮겨 놓고 알아채기를 멈췄다고 브룩스는 주장했습니다. 다른 이들은 무어의 법칙이 둔화되고 있어서 "그냥 연산을 더하라"가 영원히 공짜는 아니라고 덧붙였습니다.

그리고 가장 기이한 반전: 서턴 자신입니다. 2025년, 데이비드 실버와 함께 쓴 에세이 "Welcome to the Era of Experience"에서, 그리고 그해 9월 드워케시 파텔의 팟캐스트에서 널리 논의된 인터뷰에서, 서턴은 오늘날의 대형 언어 모델이 사실 쓰라린 교훈을 충족하지 않는다고 주장했습니다. LLM은 고정된 인간 텍스트 더미를 모방해 학습하는데, 그는 이를 경험으로부터의 학습이 아니라 흉내내기에 의한 학습이라고 불렀습니다. 그의 새로운 관점에서 진정한 지능은 다음 인간 단어를 예측하는 데서가 아니라, 세계와의 자신의 상호작용으로부터 지속적으로 배우는 에이전트에서 옵니다. 쓰라린 교훈의 아버지는 LLM 시대를 바라보며, 사실상 이렇게 말했습니다. 이 안에는 아직 인간 지식이 너무 많다.

그래서 정직한 독해는 여러 층입니다. 확장 가능한 탐색과 학습이 손으로 부호화한 지식을 이긴다는 핵심 주장은 놀라운 실적을 가지고 있습니다. 하지만 "어떤 방법이 가장 잘 확장되는가"는 여전히 살아 있는 싸움이며, 그 에세이를 쓴 사람은 현재의 챔피언이 목적지가 아니라 중간 정거장이라고 봅니다. 두 발상을 동시에 붙드는 것이야말로 실제로 이해했다는 표시이며, 분야를 가로지르는 좋은 폭넓음이 낳는 절충 속에서 사고하기의 한 형태입니다.

노트 필기의 쓰라린 교훈

이제 AI와 전혀 상관없는 대목입니다. 쓰라린 교훈에는 개인 지식 버전이 있으며, 한번 보면 다시 못 본 척할 수 없습니다.

대부분의 사람이 더 똑똑해지려고 어떻게 하는지 보십시오. 그들은 정교한 시스템을 짓습니다. 중첩된 폴더 위계. 복잡한 태깅 분류 체계. 색상 코드, 템플릿, 모든 아이디어가 어디에 살아야 하는지에 대한 완벽한 존재론. 이것은 자신의 뇌에 적용된 인간 지식 접근법입니다. 생산적으로 느껴집니다. 정리하는 것은 서턴이 경고하는 바로 그 방식으로 만족스럽고, 처음에는 조금 도움이 됩니다. 그러다 정체됩니다. 시스템이 되돌려 주는 것보다 유지하는 데 더 많은 노력이 들기 때문이며, 대부분의 사람은 조용히 그것을 버립니다.

확장 가능한 대안은 탐색과 학습을 반영합니다. 사전 구조를 거의 없이 많이 담아 두고, 나중에 검색이 정리를 하도록 맡기는 것입니다. 하이라이트가 어디에 속하는지 미리 정하는 대신, 모든 것을 저장하고, 필요할 때 전문 검색과 AI가 알맞은 것을 떠올려 주는 데 의존하십시오. 영리한 수작업 정리 대신 볼륨 더하기 좋은 검색에 베팅하는 것입니다. 그것이 "연산을 활용하는 일반적 방법들"의 개인적 메아리입니다.

이것이 하이라이트 습관이 정리 습관을 이기는 이유입니다. Glasp의 웹 하이라이터로 읽으면서 중요한 것을 표시하거나, 강연과 강의에서 YouTube 동영상 요약과 자막 하이라이트를 저장할 때, 당신은 자료를 쌓고 있는 것입니다. 볼륨 자체가 핵심입니다. 그러면 Glasp의 AI 챗이 탐색과 학습의 역할을 맡아, 각 아이디어가 어디에 사는지 손으로 기억하는 대신 저장한 모든 것에 걸쳐 질문할 수 있게 해 줍니다. 당신은 메타 방법, 즉 담기를 제공하고, 나머지는 규모가 처리하도록 둡니다.

이것은 또한 대부분의 독자가 잘 아는 죄책감을 재구성합니다. 저장했지만 읽지 않은 자료의 거대한 백로그는 실패가 아니라, 나중을 위한 원료 연산입니다. 우리는 지금 저장하고 영영 읽지 않아도 여전히 더 똑똑해지는 이유에서 그 논거를 온전히 폈습니다. 쓰라린 교훈도 동의합니다: 크고 지저분한 자료 더하기 좋은 검색이, 작지만 완벽하게 큐레이션된 것을 이깁니다.

당신 자신의 학습에 적용하는 법

이 에세이는 기계에 관한 것이지만, 인간을 위한 실무 조언은 놀랄 만큼 구체적입니다.

시스템을 과도하게 설계하지 마십시오. 태깅 체계를 완벽하게 다듬느라 쓰는 시간은 체스 휴리스틱을 손으로 부호화하는 것의 노트 필기 버전입니다. 만족스럽고, 그리고 정체입니다. 실제로 계속 쓸 만큼 구조를 가볍게 유지하십시오.

담기의 비용을 거의 0으로 낮추십시오. 확장 가능한 방법이 이기는 이유 중 하나는 먹이기가 싸기 때문입니다. 하이라이트, 인용, 요약을 저장하는 일을 원클릭 반사로 만들어, 마찰이 당신을 말리지 못하게 하십시오. 스마트 노트 워크플로는 담기가 힘들지 않고 연결이 나중에 일어날 때 가장 잘 작동합니다.

정리가 아니라 검색에 투자하십시오. 당신의 레버리지는 얼마나 깔끔하게 저장했느냐가 아니라, 저장한 것을 얼마나 잘 찾고 재조합할 수 있느냐에 있습니다. 검색, 자신의 노트에 걸친 AI 챗, 좋은 연결이 어떤 폴더 트리보다 낫습니다.

완성이 아니라 복리에 베팅하십시오. 당신은 한 분야의 학습을 결코 "끝내지" 못할 것이며, 쓰라린 교훈은 어차피 최종 답을 심으려 하지 말라고 말합니다. 계속 발견하게 하는 습관을 지으십시오. 매일 조금씩 자라는 자료는 당신이 예측할 수 없는 문턱들을 조용히 넘습니다.

방법에 대해서는 제너럴리스트로 남으십시오. 이 교훈의 가장 깊은 수는 지적 겸손입니다: 당신의 현재 최고의 통찰이 규모에 밀릴 것이라 가정하고, 그에 맞춰 설계하십시오. 입력을 넓게 유지하십시오. 가장 지속적인 우위는 계속 배우는 사람이 되는 것이며, 이는 시간이 지나며 축적하는 맥락이 당신의 진짜 우위가 된다는 것으로 다시 이어집니다.

메타 요점은 단순합니다. 메타 방법이 되십시오. 완성되고 손으로 부호화된 전문가 시스템이 되려 하지 마십시오. 계속 탐색하고 계속 학습하는 것이 되어, 볼륨 더하기 좋은 검색이 당신에게 유리하게 복리로 쌓이도록 하십시오.

자주 묻는 질문

쓰라린 교훈이란 쉽게 말해 무엇인가요?

리처드 서턴의 2019년 에세이에서 나온 관찰로, AI에서 시간이 지나며 이기는 접근법은 인간의 전문성을 시스템에 손으로 부호화한 것이 아니라, 탐색과 학습을 통해 더 많은 연산을 쓰는 것이라는 관찰입니다. 영리함은 단기적으로 돕다가 정체되고, 규모는 계속 개선됩니다. 이것이 "쓰라린" 이유는 전문가가 정성껏 쌓은 지식이 대개 진다는 뜻이기 때문입니다.

리처드 서턴은 누구이며 왜 중요한가요?

리처드 서턴은 강화 학습의 창시자로 널리 여겨지는 컴퓨터 과학자이며, 앤드루 바토와 함께 그 분야의 표준 교과서를 공저했고, 튜링상 수상자입니다. 그가 AI의 방향에 대해 한 페이지를 쓰면 분야 전체가 그것을 읽습니다. 현대 AI 붐이 의존하는 방법들을 그가 만드는 데 일조했기 때문입니다.

쓰라린 교훈은 실제로 사실인가요?

역사적 패턴은 강력합니다: 체스, 바둑, 음성 인식, 컴퓨터 비전이 모두 그것을 따랐고, 언어 모델의 스케일링 법칙이 그것을 연장했습니다. 하지만 논쟁이 있습니다. 로드니 브룩스는 인간 지식이 사라진 게 아니라 모델 아키텍처로 옮겨 갔을 뿐이라고 주장했고, 2025년 서턴 자신도 오늘날의 대형 언어 모델이 실제 경험에서 배우는 대신 인간 텍스트를 모방하기 때문에 그 교훈을 온전히 따르지 않는다고 주장했습니다.

쓰라린 교훈은 인간 지식이 쓸모없다는 뜻인가요?

아닙니다. 그것은 인간 지식이 최종 답을 시스템에 하드코딩하는 방식으로는 지는 경향이 있다는 뜻입니다. 인간은 여전히 문제를 고르고, 메타 방법을 설계하고, 학습 설정을 짓고, 무엇을 확장할지 결정합니다. 이 교훈은 노력을 어디에 둘지에 관한 것입니다: 오늘의 이해를 기계에 얼려 넣는 데가 아니라, 확장 가능한 방법과 좋은 구조에.

쓰라린 교훈은 노트 필기와 학습에 어떻게 적용되나요?

정교한 수작업 정리 시스템이 손으로 부호화한 전문성처럼 행동한다는 것을 시사합니다: 처음에는 만족스럽지만, 이후 정체되는 유지비 부담이 됩니다. 확장 가능한 대안은 최소한의 구조로 많이 담고, 검색을 위해 탐색과 AI에 의존하는 것입니다. 웹 하이라이터 같은 도구로 자료를 쌓고, 정리가 아니라 검색이 그 일을 하도록 두십시오.

결론: 복리로 쌓이는 것에 베팅하라

"쓰라린 교훈"은 십 년간의 AI를 조용히 설명하는 한 페이지이며, 우리 중 누구든 더 똑똑해지려 애쓰는 방식에 대한 경고로 다가옵니다. 유혹적인 수는 언제나 이미 아는 것을 부호화하고 그것을 진보라 부르는 것입니다. 지속적인 수는 계속 탐색하고 계속 학습하는 무언가를 짓고, 그것에 규모를 먹이는 것입니다.

당신은 데이터 센터를 연산으로 이길 수는 없지만, 그 전략을 복제할 수는 있습니다. 깔끔하게 느껴지는 것보다 더 많이 담으십시오. 구조를 가볍게 유지하십시오. 에너지를 검색에 쏟고, 자라나는 하이라이트, 노트, 요약의 몸통이 여러 해에 걸쳐 복리로 쌓이도록 두십시오. 그것이 연산을 활용하는 것의 개인적 버전이며, 3월이면 그만 쓰게 될 완벽하게 정리된 시스템을 이깁니다.

Glasp의 웹 하이라이터와 YouTube Summary로 당신의 자료를 쌓기 시작한 다음, Glasp의 AI 챗이 저장한 모든 것에 걸쳐 탐색하고 학습하도록 두십시오. 메타 방법이 되십시오. 나머지는 규모가 하도록 두십시오.