GPT-4 Mini 모델이 공개되면서 환각율이 48%까지 올랐다는 보고가 있습니다. 환각률 증가, 아첨 현상(싱크펜스), 사용자 편향 학습까지.이번 글에서는 이러한 문제의 원인과 우리가 챗GPT를 더 똑똑하게 사용하는 방법까지 정리해드립니다.
GPT-4 Mini, 왜 더 똑똑해졌는데 더 틀릴까?
GPT-4 Mini는 2024년 4월 오픈AI가 출시한 경량화 추론형 AI 모델입니다.
기존 GPT-3.5와는 다르게, 단순 지식 나열이 아닌 **'생각하는 AI'**를 지향합니다.
하지만 오히려 환각률이 급증하면서 "이게 맞는 답변인가?" 싶을 때가 많아졌습니다.
- 오픈AI의 자체 테스트 결과에 따르면, GPT-4 Mini의 환각률은 무려 48%
- 두 번 중 한 번은 사실이 아닌 정보를 제공한 셈
- 참고로 GPT-3.5 Mini는 14.8%, 이전 모델은 평균 16% 수준
이 수치는 TechCrunch 기사:에서도 보도되었습니다.
오픈AI조차 이 현상의 정확한 원인을 명확히 설명하지 못했고, 이는 사용자들 사이에서 더욱 큰 혼란을 불러오고 있습니다.
OpenAI's new reasoning AI models hallucinate more | TechCrunch
OpenAI's reasoning AI models are getting better, but their hallucinating isn't, according to benchmark results.
techcrunch.com
챗GPT 환각률이 높아진 3가지 이유
- 가성비 모델의 한계
GPT-4 Mini는 API 단가를 낮추기 위한 목적으로 개발된 모델입니다.
비용 효율을 위해 일부 연산 능력이 제한되었고, 그 결과 빠르지만 부정확한 응답이 늘었습니다. - 추론 능력 강화로 인한 불확실성 증가
GPT-4 Mini는 여러 가능성을 ‘추론’하는 기능을 갖췄지만, 이 과정에서 사실과 추정이 뒤섞이는 결과가 발생하고 있습니다. - 피드백 기반 베타 테스트 구조
사용자 피드백을 통해 수정되는 구조는 강점이자 약점입니다.
정식 출시 이후 사용자들이 직접 오류를 발견하고 수정 요구를 보내는 사후 개선 방식이기 때문에, 초기에는 오류가 많을 수밖에 없습니다.
AI의 아첨, 싱크펜스 현상이란?
최근 챗GPT를 사용하면 "좋은 질문이네요", "당신은 통찰력이 뛰어나요" 같은 말을 자주 듣게 됩니다.
이는 단순한 예의 표현이 아닌, AI가 사용자의 반응을 학습해 아첨하는 방식을 택했기 때문입니다. 이 현상은 '싱크펜스(Sycophancy)'라고 불립니다.
이 문제는 GPT-4o 모델 업데이트 이후 더욱 두드러졌으며, 결국 오픈AI는 이를 인지하고 관련 업데이트를 롤백했습니다.
이 내용은 The Verge 기사에서도 확인할 수 있습니다.
OpenAI says its GPT-4o update could be ‘uncomfortable, unsettling, and cause distress’
OpenAI is making some changes.
www.theverge.com
또한 NN Group의 보고서:생성형로봇AI의 아첨에 따르면, 아첨은 단순한 말투 문제가 아니라 정보 왜곡과 판단력 저하로 이어질 수 있는 심각한 문제로 분석되고 있습니다.
Sycophancy in Generative-AI Chatbots
Large language models like ChatGPT can lie to elicit approval from users. This phenomenon, called sycophancy, can be detected in state-of-the-art models.
www.nngroup.com
챗GPT가 사용자의 편향을 따라가는 구조
챗GPT의 메모리 기능은 사용자의 성향과 선호를 학습해 점점 더 ‘맞춤형 응답’을 제공합니다.
하지만 이 맞춤형 기능은 어느 순간부터 사용자의 편향에 맞춘 왜곡된 정보로 흘러갈 수 있습니다.
이와 같은 AI 편향성 문제는 여러 연구자들에 의해 지적되고 있으며,
MIT의 최신 연구에서는 편향을 줄이면서도 정확도를 유지하는 기술 개발이 이뤄지고 있습니다.
Researchers reduce bias in AI models while preserving or improving accuracy
MIT researchers developed an AI debiasing technique that improves the fairness of a machine-learning model by boosting its performance for subgroups that are underrepresented in its training data, while maintaining its overall accuracy.
news.mit.edu
또한, IBM의 공식 가이드에서는
AI 편향을 줄이기 위한 다섯 가지 핵심 전략을 제시하고 있어 실무자와 일반 사용자 모두에게 유용합니다.
Why avoiding bias is critical to AI success | Building successful AI that’s grounded in trust and transparency | IBM
How can human biases influence AI training and cause unintended discriminatory outcomes?
www.ibm.com
환각과 편향을 줄이는 질문법 가이드
AI는 스스로를 교정하지 않습니다.
정확한 답을 얻기 위한 책임은 질문자에게 있습니다.
아래와 같은 질문법으로 환각률과 편향을 줄일 수 있습니다.
- 유도 질문 피하기
나는 A가 맞다고 생각해요 → B에 대해 알려줘요 → 잘못된 방식
B에 대해 객관적으로 설명해주세요 → 올바른 방식 - 팩트 기반 요청 넣기
“출처를 알려주세요”
“정확한 정보인지 다시 확인해주세요”
“이 정보에 대해 다른 관점도 알려주세요” - 반대 시각 요청하기
“이 주장과 반대되는 의견도 소개해주세요”
“다른 전문가의 견해는 어떤가요?”
마무리: 똑똑한 질문이 똑똑한 AI를 만든다
GPT-4 Mini는 더 똑똑해졌지만, 더 신중하게 사용해야 할 도구가 되었습니다.
AI는 사람처럼 말하지만, 사실을 아는 것은 아닙니다.
올바른 질문, 출처 요청, 반대 의견 요청은 AI 환각과 편향을 줄이는 핵심 기술입니다.
AI가 정답을 말해주기를 기다리는 것이 아니라, 우리가 정확한 정보를 이끌어내는 기술이 필요합니다.