좋은 질문보다 더 중요한 것: 생각을 시키는 법과 배움을 남기는 법

질문이 좋은데도 답이 얕은 이유

많은 사람은 생성형 AI가 엉뚱한 답을 내놓는 이유를 질문이 나빠서라고 생각한다. 그래서 더 길게 묻고, 더 친절하게 설명하고, 더 많은 예시를 붙인다. 그런데 정말 문제는 질문의 양일까? 때로는 질문이 충분히 명확해도 답이 얕다. 반대로 별것 아닌 질문처럼 보여도, 어떤 맥락을 얹느냐에 따라 답변의 질은 완전히 달라진다.

여기서 흥미로운 역설이 생긴다. 좋은 결과는 좋은 입력만으로 나오지 않는다. 입력을 잘 만드는 것과, 입력이 시간을 통과한 뒤에도 남는 구조로 바꾸는 것은 전혀 다른 일이다. AI 프롬프트에서도, 교육에서도, 핵심은 단순한 정답 생산이 아니라 생각이 지속되는 구조를 만드는 데 있다.

이 관점에서 보면 프롬프트 엔지니어링과 교육 설계는 놀랄 만큼 닮아 있다. 둘 다 어떤 존재에게 “이해하고, 추론하고, 전이하라”고 요구한다. 그리고 둘 다 실패하는 지점은 비슷하다. 너무 빨리 답을 얻으려 하거나, 과정 없이 결과만 남기려 할 때다.

입력은 순간의 정답을 만들고, 구조는 미래의 사고를 만든다.

프롬프트와 수업은 같은 문제를 다룬다

프롬프트는 단지 질문 문장이 아니다. 무엇을 하라고 지시하는지, 어떤 맥락에서 묻는지, 어떤 형식으로 답하길 원하는지까지 포함한 작업 설계다. 잘 짜인 프롬프트는 모델이 헛다리를 짚지 않도록 돕는다. 하지만 더 중요한 점은, 프롬프트가 사실상 사고의 길잡이라는 것이다.

Zero shot은 예시 없이 바로 묻는 방식이다. 빠르고 간단하지만, 질문이 모호하면 결과도 흔들린다. Few shot은 예시를 통해 작업의 감을 심어준다. 그리고 Chain of Thought는 단순히 답만 요구하지 않고, 단계적으로 생각하라고 요청한다. 이때 핵심은 답 자체보다 추론의 경로를 외재화하는 데 있다.

이 구조를 교육에 옮겨보면 더 선명해진다. 교실에서도 우리는 종종 정답을 빨리 얻고 싶어 한다. 학생이 발표를 잘하면 성공한 수업처럼 보이고, 수행평가 결과가 좋으면 학습이 일어난 것처럼 느껴진다. 하지만 실제 학습은 대개 그보다 느리다. 지식이 들어오고, 분해되고, 다시 묶이고, 다른 상황에서 다시 호출될 수 있어야 한다. 즉, 이해는 한번의 표현이 아니라 반복되는 재구성이다.

여기서 프롬프트와 수업의 공통점이 보인다. 둘 다 단순한 전달이 아니라 인지적 발판을 설계하는 일이다. 모델에게는 단계적 사고를, 학생에게는 개념의 응고와 재응고를 제공해야 한다. 그냥 답하게 하는 것과, 답을 만들 수 있는 내부 구조를 형성하게 하는 것은 전혀 다른 목표다.

예를 들어 수학 문제를 생각해보자. 어떤 모델에게 “이 문제 풀어줘”라고만 하면 답은 나올 수도 있다. 하지만 “조건을 먼저 정리하고, 쓸 수 있는 공식을 제시한 뒤, 계산 과정을 단계별로 설명하라”고 시키면 결과는 훨씬 신뢰 가능해진다. 교실도 같다. 학생에게 “이 단원을 이해했니?”라고 묻는 것보다, “핵심 개념을 자기 말로 설명하고, 다른 사례에 적용해보라”고 해야 진짜 이해가 드러난다.

일체화의 함정은 속도에 있다

교육에서 자주 등장하는 일체화의 이상은 매력적이다. 수업, 평가, 기록이 하나로 이어지면 교육은 더 자연스럽고 더 학생 중심적으로 보인다. 실제로 그런 설계는 깔끔해 보이며, 교사 입장에서도 업무를 정리하는 데 도움이 된다. 그런데 이 흐름에는 중요한 함정이 숨어 있다. 너무 일찍 통합하면, 생각이 응고될 시간을 잃는다.

학습은 종종 두 번 일어난다. 첫 번째는 정보를 접하는 순간이다. 두 번째는 그 정보를 다시 묶고, 다른 맥락에서 호출할 수 있게 될 때다. 이 두 번째 과정이 빠지면, 학생은 그럴듯하게 말할 수는 있어도 스스로 문제를 풀지 못한다. 이해가 아니라 즉흥적 반응만 남는다. 잠깐의 수행은 가능하지만, 시간이 지나면 사라지거나 오개념으로 굳는다.

이 지점에서 우리는 교육의 오래된 착시를 보게 된다. 수업 중 잘 말하고, 과제를 잘 제출하고, 수행평가 점수가 높으면 학습이 완성된 것처럼 보인다. 그러나 실제로는 그 순간 학생이 한 일은 종종 재조합이 아니라 재현에 가깝다. 주어진 틀 안에서 맞게 움직인 것일 뿐, 지식이 장기적으로 자기 것이 된 것은 아닐 수 있다.

프롬프트도 똑같다. 대답을 바로 얻는 프롬프트는 편리하지만, 그 편리함은 종종 사고를 생략한 대가다. 예시를 너무 빨리 주면 모델은 패턴만 흉내 낸다. 단계별 사고를 유도하지 않으면, 답은 맞아도 설명은 빈약하다. 결국 우리가 원하는 것은 짧은 응답이 아니라 재사용 가능한 이해다.

속도는 생산성을 높일 수 있지만, 이해는 대개 속도를 견딘 뒤에 자란다.

이 관점에서 보면 교육과 프롬프트 엔지니어링은 모두 같은 경고를 준다. 결과를 너무 빨리 하나로 묶어버리면, 그 안에 있던 미묘한 사고의 단계를 잃는다. 반대로 단계를 잘 보존하면, 사람도 모델도 더 나은 전이를 한다. 전이란 단순히 비슷한 문제를 맞히는 능력이 아니라, 새로운 상황에서 스스로 구조를 다시 만드는 능력이다.

진짜 중요한 것은 답이 아니라 재구성 능력이다

여기서 한 단계 더 들어가보자. 왜 어떤 지식은 오래 남고, 어떤 지식은 금방 사라질까? 핵심은 지식의 양이 아니라 재구성 가능성이다. 개별 정보가 서로 연결되지 않은 채로 있으면, 기억은 쉽게 흩어진다. 하지만 그것들이 하나의 프로그램처럼 묶이면, 새로운 문제를 만났을 때 다시 작동한다.

이 점에서 기억의 응고와 재응고는 단순한 뇌과학 용어가 아니다. 그것은 학습이 무엇인지에 대한 정의다. 처음 읽은 문학 작품이 곧바로 깊이 이해되는 것이 아니라, 다시 떠올리고, 문맥을 바꾸고, 핵심을 재배치하는 과정을 거쳐야 비로소 그 작품이 자기 것이 된다. 마찬가지로 학생은 한 번 들은 설명을 기억하는 것이 아니라, 그 설명을 자기 문장으로 바꾸고, 다른 사례에 적용하고, 반례를 다루면서 진짜 배운다.

AI에서 Chain of Thought가 유용한 이유도 같다. 모델에게 최종 답만 요구하면 내부 구조가 드러나지 않는다. 하지만 단계별 사고를 요구하면, 단순한 패턴 매칭을 넘어선다. 물론 이것이 항상 완벽한 추론을 보장하지는 않는다. 그러나 적어도 답의 생성을 사고의 흐름과 연결시킨다. 교육 역시 이 방향으로 가야 한다. 학생에게 결과만 내게 하는 대신, 왜 그렇게 생각했는지, 어떤 근거를 버렸는지, 어떤 개념을 선택했는지 말하게 해야 한다.

이때 중요한 것은 “설명하게 하기” 자체가 아니다. 설명은 과정의 일부일 뿐이다. 더 본질적인 목표는 학생이 스스로 지식의 구조를 재편집하도록 돕는 것이다. 이를테면 역사 수업에서 연도를 외우게 하는 대신, 사건들 사이의 인과를 재배열하게 하는 것, 과학 수업에서 공식만 쓰게 하는 대신, 어떤 조건에서 그 공식이 성립하고 무너지는지 따져보게 하는 것, 국어 수업에서 작품의 주제를 말하게 하는 대신, 서로 다른 해석을 비교하며 근거의 강도를 판단하게 하는 것이다.

이런 수업은 느리다. 프롬프트로도 마찬가지다. 한 번의 질문으로 끝내지 않고, 첫 답을 바탕으로 다시 묻고, 반례를 던지고, 형식을 바꾸고, 요약과 확장을 반복해야 한다. 그러나 느린 구조는 더 깊은 흔적을 남긴다. 깊은 이해는 빠른 반응보다 느린 재구성에서 온다.

실전에서 써먹을 수 있는 하나의 프레임: 입력, 사고, 고정

이제 이 둘을 하나의 프레임으로 묶어보자. 좋은 프롬프트와 좋은 수업은 모두 세 단계를 가진다. 입력, 사고, 고정.

첫째, 입력은 방향을 정한다. 무엇을 원하는지, 어떤 맥락인지, 어떤 제약이 있는지 분명해야 한다. AI에게도 그렇고 학생에게도 그렇다. “알아서 해”는 출발점이 될 수 없고, 최소한의 좌표가 필요하다.

둘째, 사고는 과정을 드러낸다. 단순히 답을 내지 말고, 중간 단계를 보이게 해야 한다. AI에서는 step by step, 교육에서는 설명하기, 비교하기, 분류하기, 근거 제시하기가 여기에 해당한다. 이 단계가 있어야 결과가 우연이 아니라 구조가 된다.

셋째, 고정은 배운 것을 재사용 가능하게 만든다. AI에서는 출력 형식을 정리하고, 예시와 규칙을 반복 적용하는 것이고, 교육에서는 피드백, 재서술, 누적 복습, 기록이 이에 해당한다. 중요한 점은 고정이 곧 평가 점수나 문서화 자체를 뜻하지 않는다는 것이다. 고정은 기억을 장기 구조로 바꾸는 과정이다.

이 프레임으로 보면, 일체화가 늘 좋은 것도 아니고, 분절이 늘 나쁜 것도 아니다. 문제는 무엇을 먼저 고정하느냐이다. 성급하게 수업, 평가, 기록을 한 덩어리로 묶어버리면, 학생이 아직 자기 언어로 지식을 재구성하기 전에 결과만 남는다. 반대로 입력과 사고를 충분히 거친 뒤에 기록하고 평가하면, 평가는 단순한 판정이 아니라 학습을 굳히는 장치가 된다.

예를 들어 아이에게 어떤 글을 읽힌 뒤 바로 발표 점수와 생활기록부 기록까지 연결하면, 아이는 “잘 보이는 답”을 찾는다. 하지만 중간에 자기 언어로 요약하게 하고, 다른 관점으로 다시 쓰게 하고, 친구의 해석과 비교하게 한 뒤에 기록하면 전혀 다른 일이 생긴다. 그때 기록은 보여주기용 결과가 아니라, 정말로 무엇을 배웠는지를 남기는 흔적이 된다.

Key Takeaways

1. 좋은 입력보다 중요한 것은 좋은 사고 구조다. 질문을 잘 만드는 것에서 멈추지 말고, 단계적 추론과 재구성을 요구하라.
2. 빠른 결과는 깊은 이해를 보장하지 않는다. 즉시 산출된 답은 편리하지만, 응고와 재응고의 시간을 거치지 않으면 쉽게 사라진다.
3. 평가와 기록은 학습의 끝이 아니라 고정 장치가 되어야 한다. 결과를 남기는 목적보다, 지식을 다시 사용할 수 있게 만드는 목적이 더 중요하다.
4. 설명하게 하는 것만으로는 충분하지 않다. 비교, 반례, 재서술, 다른 맥락 적용을 통해 지식을 재구성하게 해야 한다.
5. 프롬프트와 수업은 같은 원리로 설계할 수 있다. 입력, 사고, 고정의 순서를 지키면 사람도 모델도 더 깊이 배운다.

배움은 답을 얻는 기술이 아니라, 다시 생각하게 만드는 기술이다

우리는 종종 똑똑함을 정답을 빨리 맞히는 능력으로 착각한다. 하지만 실제로 더 중요한 것은 한 번 얻은 답을 재료로 삼아, 다음 문제를 스스로 풀 수 있는가이다. AI에게도, 학생에게도, 진짜 유능함은 순간적인 응답보다 지속 가능한 재구성 능력에 가깝다.

그래서 좋은 프롬프트는 단순히 답을 잘 뽑는 문장이 아니다. 좋은 수업도 단순히 활동이 많은 시간이 아니다. 둘 다 생각을 일으키고, 그 생각이 사라지지 않도록 붙잡고, 다시 쓰이게 만드는 장치여야 한다. 결국 우리가 설계해야 하는 것은 결과가 아니라 사고의 생태계다.

정답은 빨리 사라진다. 하지만 잘 구성된 사고는 다음 질문을 바꾼다. 그리고 아마 교육과 AI가 함께 우리에게 가르치는 가장 중요한 사실은 이것이다. 배움의 목적은 맞히는 것이 아니라, 스스로 다시 묻는 사람이 되는 것이다.