생성형 AI는 교육의 풍경을 근본적으로 바꾸고 있다. 이제 학생들은 검색창에 질문만 입력하면 요약, 해설, 번역은 물론 과제 초안까지 몇 초 만에 얻을 수 있다. 대학에서는 ChatGPT를 활용한 리포트 작성이 일상이 되었고, 기업과 학교 역시 AI 기반 학습 시스템을 빠르게 도입하고 있다. 실제로 일부 대학은 재학생 전원에게 생성형 AI 서비스를 제공하며 AI 기반 학습 혁신을 추진하고 있다.

그러나 AI 활용이 확대될수록 새로운 문제가 등장하고 있다. 바로 ‘학습 환각(Learning Hallucination)’이다. 이는 생성형 AI의 기술적 오류를 의미하는 ‘AI hallucination’을 넘어, 학습자가 “이해했다고 착각하는 상태”를 뜻한다. 즉, AI가 정리해준 내용을 읽고 스스로 사고했다고 믿지만, 실제로는 깊이 있는 이해나 비판적 사고가 이루어지지 않은 상태다.

지난 칼럼에서 자기조절학습(Self-Regulated Learning, SRL)의 중요성을 다뤘다면, 이제는 한 걸음 더 나아가 AI 시대에 왜 ‘인지적 착각’을 경계해야 하는지 고민할 필요가 있다. 특히 AI가 지나치게 편리해진 시대일수록 인간의 사고력과 메타인지(meta-cognition)는 더욱 중요한 역량이 된다.

교육심리학자 Barry J. Zimmerman은 자기조절학습을 “학습자가 목표를 설정하고, 전략을 조절하며, 자신의 학습 과정을 평가하는 능력”이라고 설명했다. 핵심은 ‘스스로 점검하는 능력’이다. 하지만 AI 의존도가 높아질수록 학습자는 점검보다 ‘수용’에 익숙해지기 쉽다. AI가 제공한 내용을 곧바로 정답처럼 받아들이는 순간, 학습은 능동적 탐구가 아니라 수동적 소비로 변하게 된다.

실제로 많은 학생들이 “AI가 설명해주니 이해한 것 같다”고 말한다. 그러나 막상 스스로 문제를 해결하거나 자신의 언어로 설명해보라고 하면 어려움을 겪는다. 이것이 바로 학습 환각의 대표적인 특징이다. 정보는 얻었지만 지식으로 내면화되지 않은 상태인 것이다.

더 큰 문제는 AI가 매우 ‘그럴듯하게’ 답변한다는 점이다. 생성형 AI는 문맥과 확률 기반으로 가장 자연스러운 답을 생성한다. 따라서 내용이 부정확하더라도 사용자는 쉽게 오류를 인식하지 못한다. 최근 AI 교육 확산과 함께 디지털 리터러시와 AI 검증 능력의 중요성이 강조되는 이유도 여기에 있다.

특히 AI 요약 기능은 학습 환각을 강화할 가능성이 있다. 긴 논문과 책을 몇 줄로 압축해주기 때문에 효율성은 높아지지만, 학습자는 ‘생략된 맥락’을 놓칠 수 있다. 인간의 깊은 이해는 단순한 정보 압축이 아니라 혼란과 질문, 시행착오를 거치며 형성된다. 그러나 AI는 이러한 과정을 지나치게 빠르게 단축시킨다.

문제는 여기서 끝나지 않는다. AI는 학습자의 사고 습관 자체를 변화시킬 수 있다. 이전에는 학생들이 답을 찾기 위해 고민하고, 자료를 비교하며, 자신의 논리를 구성해야 했다. 하지만 지금은 “AI에게 물어보면 된다”는 인식이 확산되고 있다. 질문 이전의 고민 과정 자체가 사라지고 있는 것이다.

이러한 변화는 인간의 메타인지 능력에도 영향을 미친다. 메타인지는 ‘내가 무엇을 알고 무엇을 모르는지 인식하는 능력’이다. 그런데 AI가 즉각적으로 답을 제공하면 학습자는 자신의 무지를 충분히 자각할 기회를 잃게 된다. 즉, 모르는 상태를 오래 견디지 못하게 되는 것이다.

인지심리학에서는 어려움을 겪는 과정 자체가 학습에 중요하다고 본다. 적절한 인지적 부담(desirable difficulty)은 장기 기억과 깊은 이해를 강화한다. 그러나 AI는 학습 과정의 불편함을 제거하는 데 매우 뛰어나다. 아이러니하게도 지나치게 편리한 학습 환경이 오히려 사고력 저하를 초래할 수 있는 것이다.

그렇다면 AI 시대에 우리는 어떻게 학습 환각을 피할 수 있을까?

첫째, AI를 ‘정답 기계’가 아니라 ‘사고 파트너’로 활용해야 한다. AI에게 단순히 답을 요구하기보다 “왜 이런 결론이 나왔는가?”, “반대 의견은 무엇인가?”, “다른 관점에서 설명할 수 있는가?”와 같은 질문을 던져야 한다. 중요한 것은 결과가 아니라 사고 과정이다.

둘째, ‘설명하기 학습(Feynman Technique)’을 실천해야 한다. AI가 정리한 내용을 읽은 뒤에는 반드시 자신의 언어로 다시 설명해보는 과정이 필요하다. 만약 설명이 막힌다면 아직 완전히 이해하지 못한 것이다. 이해는 읽는 순간이 아니라 재구성하는 과정에서 완성된다.

셋째, 의도적으로 ‘AI 없는 시간’을 가져야 한다. 모든 문제를 즉시 AI에게 묻는 습관은 사고 근육을 약화시킬 수 있다. 때로는 스스로 고민하고, 자료를 찾고, 틀려보는 경험이 필요하다. 인간의 창의성과 통찰은 종종 느린 사고 과정 속에서 등장한다.

넷째, AI 검증 습관을 길러야 한다. AI의 답변을 논문, 책, 공신력 있는 자료와 비교하는 습관은 필수적이다. 특히 학술적 글쓰기에서는 AI가 제시한 참고문헌이나 개념 정의를 반드시 재확인해야 한다. 생성형 AI는 존재하지 않는 논문이나 왜곡된 정보를 매우 자연스럽게 만들어낼 수도 있기 때문이다.

결국 AI 시대의 핵심 경쟁력은 단순한 정보 접근 능력이 아니다. 이미 정보 접근은 거의 모든 사람에게 평등하게 열려 있다. 앞으로 더 중요한 것은 “정보를 어떻게 해석하고, 검증하며, 자기 사고로 전환하는가”의 문제다.

AI는 인간의 학습을 확장시킬 수 있는 강력한 도구다. 그러나 사고를 대신하는 순간, 학습은 성장 대신 착각이 될 수 있다. AI 시대에 진짜 위험은 AI가 인간보다 똑똑해지는 것이 아니라, 인간이 스스로 사고하기를 멈추는 데 있다.

따라서 미래 교육의 핵심은 AI 활용 능력 자체가 아니라, AI를 사용하면서도 스스로 사고할 수 있는 자기조절 능력을 유지하는 데 있다. 기술이 발전할수록 더욱 중요한 것은 인간의 ‘생각하는 힘’이다. 그리고 그 힘은 여전히 인간만이 훈련할 수 있다.

주레이레이 / ZHOU LEILEI / 周蕾蕾 

중국 출신으로 국민대학교에서 교육학 및 교육심리 분야의 석사와 박사학위를 취득하고, 교육심리를 중심으로 한 연구를 지속해오고 있다. 서울특별시와 국민대학교가 공동으로 추진한 2022년 중등 자기주도학습 ‘점점캠프 운영’ 용역에 참여했으며, 성북구청의 2020년 하반기 중등 자기주도학습 점점캠프 프로그램 위탁 용역과 서울시·국민대학교가 함께한 2021년 중등 자기주도학습 점점캠프 운영 용역에도 참여하는 등 교육 현장 기반 프로그램의 개발과 운영에 기여해왔다. 또한 교육부와 국민대학교가 공동으로 수행한 ‘학습디자인’ 연구 용역에 참여하며 교육 정책과 현장을 아우르는 연구를 이어오고 있다. 현재는 한국ESG위원회 평생교육위원회 부위원장으로서 지속가능한 교육과 평생학습 분야의 발전을 위한 활동에도 힘쓰고 있다.