Cozlab

[AI 교육] 6. AI 환각 : 유창하게 틀리는 기계를 알아보는 힘

AI는 형식은 완벽하게 갖춘 채 유창하게 틀린다. 그 틀림을 알아보는 힘은 계산 속도가 아니라 개념의 정의를 정확히 아는 데서 온다.

그 제약이 풀리면 무엇이 열리나. AI 튜터는 아이마다 다른 ‘왜?’에 답하고, 소수만 누리던 탑다운 학습이 처음으로 모두에게 가능해진다.

학교는 왜 아래에서부터 가르쳐 왔을까. 절차의 사다리는 진리가 아니라 ‘좋은 튜터는 희소하다’는 제약 위에 세워진 합리적 설계였다.

AI 활용 교육 다음에 남는 질문. 도구가 판단을 대신하지 않게 하려면 아이 안에 무엇이 있어야 할까 — 구조를 보는 눈과 정의(定義)하는 힘.

지식 암기와 결과물 평가는 왜 예전처럼 작동하지 않을까. “암기 무용론”의 함정과, 지식이 ‘자산’에서 ‘AI 출력을 검증하는 잣대’로 바뀌는 전환을 다룬다.

AI가 독후감을 대신 쓰는 시대. 문제는 학생의 양심이 아니라 교육이 서 있던 전제다. ‘절차를 익히면 사고력이 생긴다’는 오래된 전제가 어떻게 바뀌었는지부터 짚는다.

폐쇄망 로컬 LLM 에이전트 8일 개발기의 마무리 — 커밋 리듬, 실기 검증·실패 보존·안전 표면 동결이라는 작업 관행, 클로드 코드에게 배운 것과 실측 수치 총정리.

느린 로컬 LLM의 UX 설계 — 컨텍스트 압축을 사용자에게 알리는 notice 통로, 사고는 스피너로 대체한 CLI 타이핑, 한글 바이트 경계까지 잡은 SSE, 새로고침에도 온전한 타임라인.

폐쇄망 배포 실전 — AVX2 전제 런타임 때문에 구형 PC에서 실행조차 안 되던 사고(VEX 명령 72만 개 실측)와 반입 수집기의 구멍을 막은 기록. 폐쇄망 배포 체크리스트 포함.

로컬 LLM 에이전트 컨텍스트 관리 실전 — 맥락이 죽는 옵션 버그, KV 캐시를 깨던 상시 축소의 revert, 요약이 쌓이는 역전 버그, 추정 대신 KV 실토큰 판정까지. 실패 기록이 자산이 되는 과정.