능력자는 나인가, 아니면 AI인가?

AI의 쓰나미가 날이 갈수록 심해지는 느낌이다. 인류의 역사상 이렇게 단기간에 삶의 모든 영역에 영향을 미친 예가 있었나 싶다. 스마트폰만 해도 아이폰이 개발된 2007년 이후 5~7년 정도 지난 후에야 지배적 영향력을 발휘했다. 이에 반해, AI 대중화의 시작점이라고 평가받는 오픈AI의 ‘챗GPT’ 공개가 2022년 11월이니, AI의 확산은 그야말로 폭발적이라고 할 수 있을 것 같다.

이젠 공부를 할 때나 업무를 할 때나 AI의 도움을 받는 것이 너무나도 당연해졌고, 현재 대학에서도 ‘AI를 잘 사용하는 인재’를 육성하는 것이 당면 과제가 되었다. 덕분인지, 학생들의 과제들도 예전과는 비교할 수 없을 만큼 수준이 높아졌다. 화려한 그래픽과 논리적인 내용 전개. 학생들의 보고서가 전문 학자들의 논문을 속된 말로 뺨치는 수준까지 올라온 느낌이다. 그러면 이즈음에 드는 의문. 실력이 좋은 것은 AI일까, 아니면 학생들인 걸까?

확실한 것은 최근 학생들은 AI의 능력을 자신의 능력이라 착각(?)하는 경향이 있다는 것이다. 최근 한 연구에서는 참가자의 절반에게는 AI의 도움을 받아 문제를 풀도록 했고, 나머지 절반에게는 AI 도움 없이 문제를 풀도록 했다. 실험 결과 중 흥미로운 부분은 두 가지였는데, 첫 번째는 AI의 도움을 받았던 집단의 수행이 더 높았다는 것이며, 두 번째는 AI 도움을 받았던 집단의 스스로에 대한 평가 역시 더 높았다는 점이다. 즉, 성적이 좋았던 것은 AI의 도움이 있었기에 가능한 것이었지만, 그런 부분은 가볍게 무시하고 스스로의 능력이 좋았다고 판단했다는 것이다.

이와 같은 자신 능력에 대한 과잉 확신 문제는 AI 사용에 관한 중요한 부정적 증거 중 하나로 언급된다. 여러 연구들에서 AI를 많이 사용하며 시험을 준비한 집단에서 실제 시험 성적은 낮게 나오는 반면, 스스로의 실력에 대해서는 과대평가하는 경향이 관찰되었다. 원래 큰 사고는 실력은 없고, 확신이 강한 사람이 친다고 했는데, 어찌 보면 AI를 사용하는 우리가 그 모습을 하고 있는 것은 아닌가 걱정스러운 지점이다.

하지만 스스로의 능력을 제대로, 객관적으로 평가하는 것은 본래 쉽지 않다. 기본적으로 인간은 스스로의 능력을 평가할 때 본인 내부에 있는 것만으로 제한하지 않는다. 어쩌다 우연히 외국인들과 태권도에 대한 이야기를 한 적이 있다. 어릴 적 동네 태권도 도장 몇 달 다닌 솜씨를 자랑하며, ‘태권도 마스터’인양 이야기를 했는데, 나중에 알고 보니 내 앞에 앉아있던 이탈리아인이 태권도 공인 2단이어서 머쓱한 적이 있었다. 태권도 종주국의 국민이라는 점이 나에게 태권도에 대한 근거 없는 자신감을 불어넣어 생긴 촌극이었다.

이렇듯 인간은 자신이 속한 집단의 성취를 자신의 성취로 지각하는 경향이 있다. 이런 경향은 우리가 자아(self)를 확장하고 싶은 기본적 동기에서 비롯된다. 인간은 사회적 동물로서 자아가 사회적 관계 속에서 형성되기 때문에, 자아를 집단으로 확장하려는 것은 당연한 수순이고, 이런 과정에서 확장된 자아의 능력을 본인의 능력으로 잘못 판단하는 것이다.

그뿐 아니다. 우리는 어떤 정보가 매끄럽고 쉽게 이해되는 느낌을 줄 때, 우리는 그 원인을 깊이 따지지 않은 채 “내가 잘 알고 있다”거나 “내가 이해했다”고 판단해 버리는 경향이 있다. 이를 처리 ‘유창성 오류’라고 한다. 일타 강사의 수업을 듣고 있을 때는 ‘다 이해하고 있다’고 생각했지만, 집에 가서 들춰보면 실제로 이해한 내용이 없다는 사실을 인식하는 경우가 종종 있는데, ‘처리 유창성 오류’의 대표적인 예다. 처리 유창성은 내가 아닌 타인의 능력에 기인하는 경우가 많다. 즉, 위의 예에서 강의가 쉽게 이해됐다면 그것은 강사의 능력이지 나의 능력이 아니다. 하지만 우리는 처리 유창성이 나의 능력 때문이라고 착각하고, 스스로에 대한 평가를 높인다.

또 우리의 기억은 쉽게 왜곡되는데, 특히 어떤 정보를 얻었을 때 그 정보를 얻은 출처에 대한 기억이 더 약하다. 혹시 친구에게 “야, 너만 알고 있어. 사실은…”이라며 최신 소문을 전했는데, “야! 그거 내가 말해준거잖아!”라는 답변을 들은 적이 있을 것이다. 일단 머릿속에 저장된 정보에 대해서는 기억하지만, 그 기억이 어떻게 머릿속에 입력되었는지에 대해서는 제대로 저장되지 않아서 발생하는 현상이다.

이에 더해, 만일 자신이 그 기억 속 정보에 손을 댔다면, 그 정보의 출처를 자신의 머리라고 생각하는 경향이 있다. 예를 들면, 어디에선가 읽었던 문장이 있었는데, 출처 기억 오류로 인해 어디서 읽었는지에 대한 기억이 소실되고 다른 상황에서 우연히 그 문장이 떠오르면, 그 문장을 자신의 머릿속에서 창조된 것으로 믿어버린다. 역시 타인의 결과물을 자신의 능력이 만들어 낸 결과물로 잘못 오해하는 경우가 된다.

이런 점에서 AI 능력을 내 능력이라고 믿어버리는 현상은 자연스러운 결과라고도 할 수 있다. 인간은 원래 자아를 확장해 왔고, 타인의 능력을 자신의 것으로 흡수하며 살아왔다. 문제는 우리가 스스로의 판단과 책임의 경계를 얼마나 명확하게 세우는지에 있다.

능력은 결과물의 화려함으로 증명되는 것이 아니다. 그 결과를 스스로 설명하고 수정하며 책임질 수 있을 때 비로소 자신의 것이 된다. AI를 잘 사용하는 시대를 넘어, AI의 판단을 최종적으로 검토할 수 있는 사람이 되는 것. 어쩌면 그것이 이 시대에 요구되는 가장 중요한 능력이지 않을까 싶다.