『정의(定義)의 시대 — AI 이후의 학교』 연재 6화 — 유창하게 틀리는 기계
지난 화는 조건 하나를 남기고 끝났다. 모두에게 주어진 그 튜터는 가끔 아주 그럴듯하게 틀린다. 오늘은 그 틀림의 성격과, 그것을 알아보는 힘이 어디서 오는지를 본다.
인류가 처음 만나는 종류의 화자
중학생이 역사 숙제를 하다가 AI에게 참고문헌을 물었다고 하자. AI는 저자와 출판사와 연도까지 갖춘 책 목록을 내놓는다. 형식은 완벽하다. 그런데 그중 두 권은 세상에 존재하지 않는 책이다. 저자는 실존하고 그 사람이 쓸 법한 제목이지만, 그런 책은 없다.
숫자를 물으면 그럴듯한 숫자를 만들고, 개념을 물으면 이웃한 두 개념을 매끄럽게 섞기도 한다.
이것이 왜 낯선 사태인지 짚어 보자. 지금까지 인류에게 유창함은 꽤 믿을 만한 신호였다. 어떤 주제에 대해 막힘없이, 구체적으로, 조리 있게 말하는 사람은 대체로 그 주제를 아는 사람이었다. 사람들은 평생 그 신호에 기대어 누구를 믿을지 판단해 왔다.
그런데 이제 무한히 유창하지만 유창함이 아무것도 보증하지 않는 화자가 등장했다. 아이들은 이 화자와 매일 대화하며 자라는 첫 세대다.
오류를 잡는 것은 속도가 아니라 정의다
그렇다면 저 그럴듯한 오류를 잡아내는 힘은 어디서 올까. 계산을 더 빨리 하는 능력이 아니다. 기계보다 빨리 계산하는 사람은 이제 없고, 앞으로도 없을 것이다.
오류를 잡는 사람은 개념의 정의를 정확히 쥐고 있는 사람이다. AI가 “평균 소득이 올랐으니 대부분의 사람이 잘살게 되었다”고 매끄럽게 설명할 때, 평균의 정의를 아는 사람은 멈칫한다. 평균은 한 명의 큰 값에 끌려 올라가는 값이라, 대부분의 형편과는 다른 이야기일 수 있다. AI가 속력과 속도를 섞어 쓸 때, 둘의 정의가 다르다는 것을 아는 학생은 설명 어딘가가 비틀렸음을 느낀다.
검증은 문장을 의심하는 데서 시작되는 게 아니라, 단어 하나가 제 뜻으로 쓰였는지 알아보는 데서 시작된다.
2화에서 지식의 역할이 바뀌었다고 했던 것이 정확히 이 장면이다. 인출해서 보여주는 자산으로서의 지식은 기계가 대신한다. 그러나 기계의 출력을 재는 잣대로서의 지식, 곧 정확한 정의들의 목록은 사람 쪽에 있어야 한다. 잣대 없이 무한한 창고를 쓰는 사람은, 창고에서 나온 것을 그대로 옮기는 사람이 된다.
틀리는 장면을 함께 목격하기
여기서 교육의 실마리가 하나 나온다. 아이에게 AI를 감추는 전략은 오래가기 어렵다. 그보다 힘이 센 것은 AI가 틀리는 장면을 일찍, 함께 목격하는 경험이다. “어, 이 책 진짜 있나 찾아볼까?” 하고 같이 검색해서 없다는 것을 확인하는 순간, 아이 안에는 두 가지가 함께 새겨진다.
이 유창한 상대도 틀릴 수 있다는 감각, 그리고 틀림을 확인하는 데 쓴 그 방법. 백 번의 “AI를 조심하라”는 훈화보다 한 번의 공동 목격이 오래간다.
다만 말을 말로 확인하는 데는 한계가 있다. 검색으로 교차확인하는 것도 다른 말과 대조하는 일이다. 말의 바깥, 검증의 최종 심급이 하나 남아 있다.
다음 화 — 7화. 말과 세계를 맞춰보는 훈련
답글 남기기