ChatGPT에 대한 의문

ChatGPT는 공정하고 정확한가

ChatGPT는 어떻게 질의하느냐에 따라 공학적 문제뿐만 아니라 문학적, 철학적, 미학적 문제도 창의적이며 전문적인 답변을 생성할 수 있기 때문에 기존 AI 챗봇 서비스와는 차원이 다른 결과물을 제공한다. ChatGPT는 인간 피드백을 통한 강화학습(RLHF) 적용을 통해 마치 사람과 대화한다는 착각을 불러일으킬 정도로 대화가 매끄럽고, 답변 성능이 우수하여 검색 엔진 시장 판도를 변화시킬 ‘게임 체임저’로 인식되고 있다.

그러나 ChatGPT는 아직 완성도가 미흡한 부분이 있으며, 의도치 않은 편향이 존재해 위험을 내포하고 있다. 2021년 이전의 데이터로 학습하여 2022년 이후 일어난 사건에 대해서는 부정확하게 답변을 내놓기도 한다. ChatGPT는 대규모 학습 데이터를 기반으로 답변을 하기 때문에 잘못된 정보나 편향된 콘텐츠를 생성할 수 있는 가능성이 존재하며 한글보다 영어 데이터가 많기 때문에 영어 질의에 정확도가 보다 우수하다.

인간 피드백을 통한 강화학습(RLHF) 적용한 결과 오히려 인간의 결함과 실수를 쉽게 모방할 우려가 존재한다. 특히 ChatGPT의 답변은 때로 꽤 논리적으로 보이나 잘못된 정보이거나 무의미한 내용일 수 있다는 의미이다.할루시네이션(hallucination) 이슈가 있었는데 AI가 존재하지 않는 환각을 보는 것처럼 없는 답변, 틀린 답변을 제시하는 사례다.

OpenAI 웹사이트에서는 진실에 대한 출처가 없는 강화학습의 특징에 따른 ChatGPT의 한계를 기술하고 있고, ChatGPT는 오답률이 높고 일반적으로 그럴듯해 보이지만 수준이 높지 않은 경우가 많기 때문에 개발자들의 질의응답 사이트인 ‘스택오버플로우(Stack Overflow)’는 ChatGPT를 통해 생성한 답변을 등록하는 걸 당분간 금지 조치하기도 하였다.

 

ChatGPT는 지속가능한 수익을 창출할 수 있는가

ChatGTP는 타 서비스 대비 초단기간에 100만 사용자를 모았고, 현재 5억 명 넘게 사용할 것이라는 추정도 있으나 현재까지 무료 서비스로서 이렇다 할만한 수익 모델이 없다는 점은 한계로 존재한다. 100만 사용자 확보에 넷플릭스는 3.5년이, 에어비앤비는 2.5년이, 페이스북은 10개월이 소요되었으나 이들은 시장의 혁신적 파괴자들로서 탄탄한 비즈니스 모델을 구축하여 경쟁자들보다 빠르게 시장을 선점한 것이 그 예다.

반면, 2021년 초 음성 기반 폐쇄형 소셜네트워크서비스인 ‘클럽하우스’는 한때 초대장이 수만 원에 거래 되는 등 큰 인기를 끌며 빠른 속도로 가입자를 모았으나 지속적으로 즐길 수 있는 콘텐츠 생산에 한계를 드러내며 사용자 급감으로 이어졌다. ChatGPT의 단기간 확산은 여러 조건이 맞물려 이뤄낸 결과일 뿐 구체적인 수익 모델 없는 상황에서 단기간 사용자 수 확보만으로 타 서비스와 비교를 하는 것은 잘못된 해석을 낳을 수 있는 여지가 있다.

ChatGPT가 단기간 100만 사용자를 확보할 수 있었던 것은 무료 서비스로서 누구나 쉽게 가입할 수 있으며, 질문 방식으로 사용법이 단순하고, 답변 성능이 우수하여 흥미로운 결과를 사용자들이 온라인상 공유·확산하였기 때문이다. ChatGPT 사용 의도는 단기간 사용자 확보보다는 ‘생성 AI의 시작을 알리는 계기’라는 점이 더 바람직해 보이다. 향후 유료 서비스 버전(ChatGPT Professional)을 출시 예정이나 이는 단순 기능 확장에 그쳐 지속 가능성을 담보할 수 있는 킬러 서비스 개발 필요한 이유이기도 하다. 현재 ‘You.com’, ‘Perplexity.ai’ 등 ChatGPT와 유사한 기능을 제공하는 서비스 출시하였다.

 

지식을 얻기 위해 활용할수 있는 도구인가

지식(知識)이란 ‘어떤 대상에 대하여 배우거나 실천을 통하여 알게 된 명확한 인식이나 이해’로서 인간의 지식은 자신의 직접 경험 및 각종 미디어를 통해 전달되는 타인의 경험을 학습함으로써 축적된다. 따라서 학습은 지식 축적을 위해 반드시 수행되어야 하는 일련의 과정이며 학습 또는 경험 없이 지식은 존재할 수 없다. 그런 의미에서 쉽게 접할수 있고, 노력하지 않아도 유사한 지식을 쉽게 활용할수 있는 ChatGPT는 혁신의 도구로 인정할수 있을까? 나 대신 인간의 영역을 간섭하고 인정받기 위해 진화하는 ChatGPT를 인정할 수 밖에 없는 도구일지는 우리 모두가 고민해 봐야할 시기이다.

검색 엔진이 등장하며 학습에 드는 시간과 비용을 획기적으로 절감해 주었고, ChatGPT와 같은 AI 서비스는 지식 획득을 위한 인간의 학습 과정을 아예 없애줌으로써 지식의 정의를 바꿀 만큼 혁신적 변화를 가져온 것은 분명한 사실이다.

ChatGPT 학습단계