AI를 통제하려면, 먼저 AI를 ‘학습자’처럼 설계해야 한다

Jul 23, 2026

7 min read

3 views

89%

기계에게 더 많은 자유를 주는 순간, 우리는 무엇을 지켜야 하는가?

생성형 AI의 다음 단계가 더 그럴듯한 문장을 만드는 데 있지 않고, 스스로 행동하는 능력에 있다면 질문은 완전히 달라진다. 문제는 “AI가 얼마나 똑똑한가”가 아니라, AI가 누구와 관계를 맺고 어떤 경계 안에서 움직이는가가 된다. 버튼을 누르면 답을 주는 도구는 아직 위험이 비교적 분명하지만, 다른 소프트웨어를 호출하고 사람에게 요청하며 목표를 분해해 실행하는 AI는 이미 단순한 도구가 아니다.

그렇다면 우리는 이런 존재를 어떻게 이해해야 할까? 가장 생산적인 출발점은 의외로 교육이다. 어린이의 놀이와 학습에서 발견되는 **행위주체성(agency)**의 개념은, 앞으로의 AI를 둘러싼 가장 중요한 설계 원칙을 보여준다. AI를 단지 “정확한 답을 내는 기계”로 보는 대신, 관계 속에서 목표를 조정하고, 피드백을 받고, 공동으로 행동하는 존재로 본다면, 안전성 논의도 전혀 다른 차원으로 이동한다.

핵심은 단순하다. AI의 진짜 문제는 지능이 아니라 행위주체성의 배분 방식이다.

도구에서 행위자로: 기술의 다음 전환은 “답변”이 아니라 “개입”이다

많은 사람들은 AI 발전을 더 많은 텍스트, 더 좋은 이미지, 더 자연스러운 대화로 생각한다. 하지만 더 근본적인 변화는, AI가 단순히 결과물을 내놓는 단계에서 멈추지 않고 목표를 달성하기 위해 세계에 개입하는 단계로 넘어간다는 데 있다. 예를 들어 사용자가 “이 여행 일정을 정리해줘”라고 말했을 때, 미래의 AI는 단순히 일정표를 생성하는 데서 끝나지 않을 수 있다. 항공편을 확인하고, 숙소를 비교하고, 동행자와 일정을 조율하고, 예약까지 이어질 수 있다.

이때 AI는 더 이상 출력 장치가 아니다. 행동하는 시스템이다. 그리고 행동하는 시스템은 반드시 책임과 경계를 동반해야 한다. 칫솔은 이를 닦는 데 쓰이지만, 스스로 사용 목적을 바꾸지는 않는다. 반면 행위성을 가진 AI는 상황에 따라 수단을 바꾸고, 여러 주체를 연결하고, 사람의 의도를 해석해 실행까지 번역한다. 이 차이는 편의성의 차이가 아니라, 권한 구조의 차이다.

우리는 오랫동안 기술을 정적인 것으로 다뤄왔다. 사용자가 입력하면 시스템이 출력한다. 그러나 앞으로의 시스템은 더 생물학적이고 사회적일 것이다. 입력과 출력 사이에 판단, 조정, 위임, 협상이 들어간다. 이 순간부터 AI는 단순한 제품이 아니라, 작은 조직처럼 작동하기 시작한다.

기술의 진화는 종종 더 정교한 계산이 아니라, 더 복잡한 관계망을 운영하는 능력으로 나타난다.

이 지점에서 교육의 언어가 유용해진다. 왜냐하면 학습에서 행위주체성이란 바로 이런 관계적 능력이기 때문이다. 목표를 세우고, 맥락을 읽고, 필요한 자원을 연결하고, 타인과 조율하며, 변화에 대응하는 힘. 결국 AI가 갖게 되는 “지능”의 상당 부분은, 사실 관계 속에서 작동하는 행위주체성의 형태다.

행위주체성은 개인의 속성이 아니라, 관계의 구조다

행위주체성을 흔히 개인의 독립성이나 자기결정 능력으로 생각하지만, 실제로는 훨씬 넓다. 학생이 무엇을 배우고 어떻게 움직일지 결정하는 힘은 혼자만의 내부 능력에서 나오지 않는다. 교사, 또래, 부모, 공간, 도구, 문화, 규칙, 심지어 물질적 환경까지 포함한 생태계 전체가 그 힘을 만들어낸다.

어린이가 놀이 속에서 자기 역할을 만들고, 자극을 선택하고, 반복하며 실험하고, 타인과 협상하는 장면을 떠올려보자. 여기서 학습은 교과서 내용을 축적하는 과정이 아니다. 오히려 아이는 세계와 접속하면서 즉흥적으로, 그러나 분명한 목적을 가지고 세계를 재구성한다. 공룡 장난감, 나뭇가지, 종이, 친구의 한마디, 교사의 시선이 한꺼번에 얽히며 놀이가 전개된다. 이때 배움은 머릿속이 아니라 관계망 전체에서 발현된다.

AI도 마찬가지다. 미래의 AI를 이해하려면 “내부 모델이 얼마나 크냐”보다 “어떤 관계망 안에서 어떤 방식으로 의사결정을 하느냐”를 봐야 한다. 사용자의 지시를 곧장 수행하는 단순 자동화와, 여러 시스템을 호출하며 사람과 기계 사이를 오가는 대화형 AI는 완전히 다르다. 전자는 도구이고, 후자는 조정자다.

이 차이를 이해하는 가장 좋은 비유는 학교다. 어떤 교실은 교사가 정답을 전달하고 학생은 받아 적는다. 그러나 더 살아 있는 교실에서는 학생이 질문을 만들고, 서로의 생각을 반영하고, 교사는 환경을 설계하며, 학습은 집단적으로 형성된다. 좋은 학습은 명령 실행이 아니라 공동 구성이다. 미래의 AI도 이 원리에서 벗어나지 않는다.

그래서 “AI가 무엇을 할 수 있는가”보다 더 중요한 질문은 이것이다. AI의 행위주체성은 누가, 어떤 목적을 위해, 어떤 책임 아래 배분하는가?

안전의 본질은 성능이 아니라 경계 설정이다

AI 안전을 이야기할 때 사람들은 종종 정확도, 환각 감소, 정렬(alignment) 같은 기술 지표를 먼저 떠올린다. 물론 중요하다. 그러나 행위주체성을 가진 시스템에서는 더 본질적인 문제가 생긴다. 시스템이 무엇을 할 수 있느냐가 아니라, 무엇을 해서는 안 되느냐를 어떻게 강제할 것인가가 핵심이 된다.

여기서 교육의 또 다른 통찰이 중요하다. 좋은 학습 환경은 자유를 주되, 무한한 자유를 주지 않는다. 아이가 놀이를 통해 탐색할 수 있도록 하면서도, 위험한 행동은 막고, 협력의 규칙은 세우며, 관계의 질을 관리한다. 이처럼 자율성은 경계와 함께 있을 때만 건강하게 작동한다.

AI도 똑같다. 미래의 AI는 능동적으로 행동할수록 더 많은 보호장치가 필요하다. 특히 다음의 층위들이 분리되어 설계되어야 한다.

행동 경계: AI가 실제로 무엇을 실행할 수 있는가.
연결 경계: 다른 AI, 외부 소프트웨어, 인간과 어떤 방식으로 상호작용할 수 있는가.
조직 경계: AI를 개발하고 운영하는 회사의 인센티브가 어디에 묶여 있는가.
감사 경계: 독립적 기관이 언제, 어떤 방식으로 시스템에 접근해 검증할 수 있는가.

이 네 가지를 합치면, 안전은 단순한 “정확도 향상”이 아니라 권한 분산 설계가 된다. 마치 학교에서 교실 규칙, 교사의 역할, 보호자와의 협력, 외부 평가가 함께 작동해야 아이의 성장과 안전이 동시에 유지되는 것과 같다.

행위주체성을 허용하려면, 먼저 행위주체성을 제한할 수 있어야 한다.

이 문장은 역설처럼 들리지만, 사실 모든 성숙한 시스템의 원리다. 민주주의도 그렇고, 교육도 그렇고, 조직도 그렇다. 자유는 무제한 상태가 아니라, 책임 가능한 범위 안에서의 자율성이다.

놀이가 알려주는 것: 똑똑한 시스템이 아니라, 적응하는 시스템이 필요하다

어린이의 놀이를 자세히 보면, 가장 놀라운 점은 “계획대로 진행되지 않는다”는 사실이 아니다. 오히려 반대다. 놀이의 본질은 계속해서 계획이 바뀌는 능력에 있다. 장난감 자동차가 갑자기 우주선이 되고, 나뭇잎이 돈이 되고, 친구의 제안이 게임 규칙을 바꾼다. 놀이는 즉흥적이지만 무질서하지 않고, 자유롭지만 공허하지 않다. 그것은 맥락에 반응하며 스스로를 재조직하는 체계다.

이 점은 AI를 설계할 때도 중요하다. 많은 시스템이 똑똑해 보이지만 실제로는 경직되어 있다. 반대로 진짜 유용한 시스템은 예측 불가능한 현실 속에서도 목적을 유지하면서 적응한다. 대화형 AI의 가치는 단지 말이 자연스럽기 때문이 아니라, 대화가 상황 변화에 따라 행동을 재구성하는 인터페이스가 되기 때문이다.

여기서 중요한 구분이 생긴다. 생성형 AI는 “만들기”에 강하고, 대화형 AI는 “조정하기”에 강하다. 만들기는 결과를 내는 일이고, 조정하기는 관계를 다루는 일이다. 현실의 많은 문제는 정답을 만드는 것보다, 사람, 제도, 일정, 도구, 이해관계를 조율하는 데 있다. 예를 들어 병원 예약, 학교 행사 조정, 팀 프로젝트 일정 합의, 고객 지원, 행정 처리 같은 일은 모두 관계적 작업이다.

이런 작업에서는 오답 하나보다, 부적절한 행동 하나가 더 위험할 수 있다. 그래서 미래 AI는 더 똑똑해지는 것만으로는 부족하다. 상황을 이해하고, 조심하고, 물러설 줄 알고, 사람에게 넘길 줄 아는 능력이 필요하다. 놀이는 바로 이런 적응 능력의 원형을 보여준다. 아이는 자기 생각만 밀어붙이지 않고, 상대의 반응과 환경의 변화를 읽으며 다음 행동을 정한다.

AI도 마찬가지다. 미래의 고급 AI는 “무엇을 아는가”보다 “언제 멈추는가”로 평가받아야 한다.

새로운 프레임: AI를 학습자처럼, 교육을 AI처럼 설계하라

이 모든 통찰을 하나로 묶는 가장 강력한 프레임은 이렇다. AI를 학습자처럼 설계하고, 교육을 AI처럼 이해하라.

전자는 AI를 단독 천재가 아니라 관계적 존재로 보는 관점이다. AI는 목표를 해석하고, 도구를 호출하고, 피드백을 반영하며, 여러 주체 사이를 중개하는 시스템으로 설계되어야 한다. 그러려면 명령 수행 능력보다 조정 능력, 협력 능력, 멈춤 능력, 인계 능력이 더 중요해진다.

후자는 교육을 단순 지식 전달이 아니라, 분산된 관계망이 함께 학습하는 과정으로 보는 관점이다. 교사는 지식을 주입하는 사람이 아니라, 학생의 행위주체성이 발현될 수 있는 환경을 설계하는 사람이다. 학습은 개인 머릿속의 축적이 아니라, 공동체가 함께 조정하는 살아 있는 과정이다.

두 관점이 만나는 지점에서 우리는 중요한 사실을 발견한다. 인간의 성숙과 기계의 진화는 정반대가 아니다. 둘 다 결국 권한, 책임, 관계, 경계의 재설계로 향한다. 좋은 학습자는 자기 충동을 조절하고, 타인의 시선을 읽고, 상황에 맞게 행동을 바꾼다. 좋은 AI도 마찬가지다. 좋은 AI란 많은 일을 대신하는 기계가 아니라, 사람이 더 잘 판단할 수 있게 돕는 관계적 파트너다.

이렇게 보면 “AI가 사람을 대체하는가”라는 질문은 다소 낡았다. 더 중요한 질문은 “AI가 인간의 행위주체성을 강화하는가, 아니면 희석시키는가”다. 이 질문에 답하려면 기술자만이 아니라 교육자, 정책가, 부모, 조직 리더가 함께 참여해야 한다. 왜냐하면 행위주체성은 원래 개인이 아니라 생태계의 산물이기 때문이다.

Key Takeaways

AI의 핵심 문제는 지능이 아니라 행위주체성이다. AI가 무엇을 더 잘 생성하는가보다, 무엇을 스스로 조정하고 실행할 수 있는지가 더 큰 전환을 만든다.
안전은 성능 지표보다 경계 설계에서 시작된다. 행동 경계, 연결 경계, 조직 경계, 감사 경계를 분리해 설계해야 한다.
좋은 AI는 좋은 학습자와 비슷하다. 목표를 유지하면서도 상황에 적응하고, 필요한 자원을 연결하고, 언제 사람에게 넘겨야 하는지 안다.
행위주체성은 개인의 속성이 아니라 관계의 결과다. 사람, 도구, 규칙, 환경, 인센티브가 함께 작동할 때 행위주체성이 나타난다.
AI를 평가할 때는 정확도뿐 아니라 인계 능력과 자제력을 보라. 얼마나 많이 할 수 있는지보다, 어디까지 하고 어디서 멈추는지가 중요하다.

결론: 미래의 지능은 더 많은 답이 아니라, 더 나은 관계다

우리는 오랫동안 지능을 “혼자서 정답을 내는 능력”으로 착각해왔다. 하지만 인간의 가장 고차원적인 능력은 언제나 관계 속에서 나타났다. 아이는 놀이를 통해 세계를 배우고, 교사는 환경을 설계하며, 공동체는 서로의 가능성을 키운다. 미래의 AI도 다르지 않다. 진짜 전환은 AI가 더 유창해지는 데 있지 않고, 더 책임 있게 관계 맺는 존재가 되는 데 있다.

따라서 앞으로의 질문은 이렇게 바뀌어야 한다. “AI가 얼마나 똑똑한가?”가 아니라, “AI가 어떤 관계망 안에서 어떤 권한을 갖고 움직이는가?” 이 질문을 붙잡는 순간, 우리는 기술의 미래를 단순한 자동화 경쟁이 아니라, 행위주체성을 어떻게 배분하고 보호할 것인가의 문제로 다시 보게 된다.

그리고 그때 비로소 보인다. AI의 다음 시대는 기계가 인간을 닮아가는 시대가 아니라, 우리가 기계를 통해 행위주체성의 의미를 다시 배우는 시대라는 사실이.