"초거대AI 언어모델은 언어의 한계에 갇힐 수밖에 없다. 몸도 없고 타자도 없기 때문에 자기동일성, 자폐적인 세계안에 갇혀 있다. GPT5가 나와도, 매개변수를 아무리 늘려도 새로운 충격을 주기 어렵다. 챗GPT가 주었던 충격은 고점에 왔다. LLM에 더 이상 기대를 하지 않는 게 좋다."

철학자인 김재인 경희대학교 비교문화연구소 학술연구교수의 챗GPT에 대한 평가이다. 김 교수 챗GPT만이 아니라 거대언어모델(LLM)을 기반으로 하는 수많은 생성AI 서비스들 역시 같은 한계를 갖고 있다고 지적한다.

챗GPT와 같은 생성AI는 1750억개, 그 이상의 파라미터(매개변수)를 바탕으로 수십 페이지에 달하는 글을 순식간에 생성하는 것 처럼 보인다. 하지만 김 교수는 그간 인공지능이 학습한 언어와 언어 사이의 관계를 끄집어내고 이어붙여 그럴싸한 문장을 만들어 내는 것이라고 설명했다. 그래서 말의 진짜 뜻을 알지 못한 채 따라하기만 하는 '앵무새' 같다는 것이 김 교수의 얘기다.

생성AI가 내놓는 결과물이 그럴듯 하지만 부정확한 정보를 담고 있는 이유에 대해서도 김 교수는 "언어를 학습 데이터로 삼은 언어 모델이기 때문"이라고 말한다. 인간들이 살고 있는 실제 세계에서 언어가 차지하는 비중이 극히 일부분이란 게 김 교수의 설명이다. 언어로 구현할 수 없는 인간의 상상력이나 환상은 인공지능이 담아낼 수 없다. 결국 언어모델의 한계는, 언어를 기반으로 했기 때문이다.

인공지능에 물리적인 '신체'가 없는 것도 한계라고 지적한다. 신체가 없으니 타자와의 관계도 맺을 수 없다. 모든 것을 언어로만 배워야 한다. 김 교수는 "결국 인공지능은 자폐적인 세계, 고립된 세계 안에 갇혀 있는 것"이라고 말한다. 결국 또 한 번 인공지능은 언어의 한계에 갇히는 셈이다.

※철학자 김재인 교수가 말하는 챗GPT의 한계에 대한 더 자세한 이야기를 듣고 싶으시면 영상을 참고해 주세요. '티타임즈TV'에 오시면 더 많은 영상을 보실 수 있습니다.