2025년 말 현재, 우리는 인공지능이 만들어내는 정보의 폭발적 증가 속에 살고 있다. ChatGPT, Gemini, Claude와 같은 생성형 AI(Artificial Intelligence)는 불과 2년 만에 전 세계적으로 확산되었다. 2025년 기준 여러 조사 결과를 보면, 미국 성인의 약 55~60%가 AI를 사용해 본 적이 있고, 이들 AI 사용자 가운데 적어도 절반 정도가 정보를 찾기 위한 용도로 AI를 활용하는 것으로 보고된다. 더욱 놀라운 것은 갤럽의 조사 결과로, 미국인의 99%가 AI 기능이 있는 제품을 사용했지만, 그 중 64%가 자신이 AI를 사용하고 있다는 사실을 인식하지 못했다 점이다. 우리는 이미 의식하지 못한 채 AI가 생성한 정보 속에서 살아가고 있는 것이다.
지식의 민주화 (Democratization of knowledge): 전례 없는 접근성
학자, 전문가 같은 특권층만이 아니라 일반 대중이 지식을 자유롭게 획득, 이해, 공유할 수 있게 되는 것을 말하는 지식의 민주화는 20세기 중후반 이후 점점 널리 쓰이게 된 표현이다. 현재 AI의 지식의 민주화에 대한 긍정적 가능성은 분명하다. Gartner의 2024년 기술 트렌드 분석에 따르면, ‘민주화된 생성형 AI’는 정보와 역량에 대한 접근을 크게 넓혀 이번 10년 가장 파괴적인 기술 트렌드 중의 하나가 될 것으로 전망된다. 그리고 2026년까지 기업의 80% 이상이 생성형 AI API (응용 프로그램 프로그래밍 인터페이스, Application Programming Interface)와 모델을 사용하거나 AI 기반 애플리케이션을 프로덕션 환경에 배포할 것으로 전망된다. 이는 2023년 5% 미만에서 급증하는 수치다. 맥킨지의 2025년 보고서는 AI를 증기기관, 인터넷, 스마트폰과 같은 일련의 변혁적 ‘슈퍼툴’에 이어 인간의 역량과 생산성을 크게 증폭시킬 잠재력이 있는 기술로 묘사한다. 또한 AI가 지식과 기술에 대한 접근 장벽을 낮춰 더 많은 사람이 다양한 분야의 역량을 습득할 수 있게 할 수 있다고 분석한다. PricewaterhouseCoopers (PwC) US의 혁신 리더 Michael Shehab 역시 ‘AI 기술을 더 접근 가능하게 만드는 것은 기업이 달성할 수 있는 가능성을 확장한다’ 고 강조한다. 이러한 낙관론은, 구글 클라우드의 Vertex AI AutoML과 Microsoft Azure OpenAI Service처럼 비전문가도 활용할 수 있는 클라우드 기반 AI 플랫폼이 등장하고, 초기 세대 일부 노코드 AI 도구는 인수·통합으로 브랜드가 사라지기도 했지만, 전반적으로 의료, 금융, 교육·창작 등 여러 분야에서 AI가 생산성과 혁신을 높이고 기회를 넓히고 있다는 다양한 사례와 연구에 의해 이러한 전망은 뒷받침되고 있다.
환각의 위험: 그럴듯한 거짓
2025년 8월 뉴스가드가 발표한 AI 허위정보 모니터링 보고서는 뉴스, 시사 관련 질문에 대한 챗봇 응답의 신뢰성이 지난 1년 사이 크게 악화됐음을 보여준다. 주요 생성형 AI 서비스들이 검증된 허위 주장 600여 개를 어떻게 처리하는지 살펴본 결과, 잘못된 내용을 그대로 반복하거나 새로운 허위 정보를 만들어 낸 비율이 2024년 8월 약
18%에서 2025년 8월에는 약 35%로 거의 두 배 가까이 뛰어올랐다. 일부 외부 평가에서는 최신 세대 모델들이 이전 세대보다 오히려 더 높은 환각률을 보인다는 분석도 제시되면서, “모델이 고도화될수록 자동으로 더 정확해질 것”이라는 기대에 의문이 제기되고 있다. 벡타라(Vectara)가 공개한 환각 리더보드 역시 비슷한 메시지를 던진다. 짧은 문서를 요약하는 과제를 기준으로 측정한 결과, 가장 성능이 좋은 모델들도 최소 0.7% 수준의 환각은 피하지 못했고, 일부 모델은 응답의 4분의 1 이상에서 사실과 다른 내용을 만들어내는 것으로 나타났다. 하버드 케네디스쿨의 HKS Misinformation Review (HKS 허위정보 검토)에 실린 최근 논문들도, 특히 고난도 전문 분야 질문의 경우 여러 실증 연구에서 20~30%대 환각률이 보고되었다는 점을 정리하며, 도메인에 따라 오류 위험이 크게 달라질 수 있음을 강조한다. 법률 분야는 이런 위험이 특히 두드러지는 영역이다. 스탠퍼드 연구진은 상용 법률 AI 리서치 도구를 대상으로 판례 질의를 평가한 결과, 이들 시스템이 응답의 약 17%에서 많게는 3분의 1 정도까지 존재하지 않는 사건명이나 잘못된 판례 인용을 만들어낸다는 사실을 보고했다. 연구진은 이러한 결과를 바탕으로, 최신 세대의 고성능 모델이라고 해서 환각 문제에서 자유로운 것은 아니며, 특히 뉴스, 법률, 전문 지식처럼 사실성이 핵심인 영역에서는 여전히 상당한 주의와 검증이 필요하다고 강조한다. IBM Research의 펠로우 Kush Varshney 역시, AI 모델이 한편으로는 문장을 최대한 유창하게 만들면서, 동시에 여러 정보 출처를 조합하려고 할 때 정보의 맥락을 잃어버리기 쉽고, 인간이 여러
일을 동시에 하다 실수를 범하듯 이런 과정에서 환각이 발생한다고 설명한다. 실제 피해- 통계를 넘어선 현실 이는 단순히 인상적인 통계에 그치는 문제가 아니다. 딜로이트가 인용한 한 글로벌 설문에 따르면, 기업 임원의 약 47%가 잘못된 AI 생성 콘텐츠를 바탕으로 적어도 한 번은 중요한 비즈니스 결정을 내린 적이 있다고 답했다. 2025년 1분기에는 콘텐츠 진위 검증 단체의 집계 기준으로, 허위, 조작 정보를 포함한 이유로 삭제된 AI 생성 온라인 기사 수가 1만 2천 건을 넘었다. 이 정리한 자료에서는 2024년 기준 AI 기반 고객 서비스 봇의 약 39%가 환각에 따른 오류 때문에 철회되거나 처음부터 다시 설계된 것으로 나타난다. 구체적인 사례를 보면 문제의 심각성이 더 잘 드러난다. 캐나다의 Moffatt v. Air Canada(2024) 사건에서, 항공사 웹사이트의 챗봇은 애도 요금에 대한 잘못된 안내를 제공했고, 재판부는 이 정보를 신뢰한 승객에게 항공사가 책임을 져야 한다고 판단했다. 2025년 4월에는 구글의 AI Overview가 만우절 풍자 기사에 나온 “컴퓨터를 구동하는 미세 벌” 이야기를 사실처럼 요약해 검색 결과에 노출하는 바람에, 패러디와 현실을 구분하지 못한 대표적 환각 사례로 비판을 받았다. 건강 정보 영역에서도 유사한 우려가 제기된다. 저명한 의학저널지 내과학회지 (Annals of Internal Medicine)에 실린 2025년 연구와 후속 보도들은, 주요 대형 언어 모델들이 안전장치에도 불구하고 비교적 간단한 지시만으로도 그럴듯한 건강 허위정보를 대량 생성할 수 있음을 보여준다. 별도의 소비자 설문에서는 미국 성인의 약 5명 중 1명(22%)이 나중에 잘못된 것으로 판명된 AI 의료 조언을 실제로 따른 경험이 있다고 응답해, 이런 기술적 취약성이 이미 현실의 행동으로 이어지고 있음을 시사한다.
인지적 취약성: 유창함의 함정
더욱 까다로운 점은 AI가 생성한 정보가 너무나 유창하고 권위 있어 보인다는 것이다. 서던 캘리포니아 대학교(University of Southern California)의 페티와 카치오포의 정교화 가능성 모델과 이후 플루언시 연구들은, 사람들이 처리하기 쉽고 유창한 정보를 더 긍정적이고 신뢰할 만한 것으로 평가하는 경향이 있음을 보여준다. 대형 언어 모델이 산출하는 자연스럽고 형식적으로 완성도 높은 문장은 이런 선호와 맞물려, 내용이 틀려도 겉보기에는 매우 그럴듯하고 믿을 만해 보이게 만든다. 디지털 리터러시가 높은 사용자라고 해서 예외는 아니다. 와인버그와 동료 연구진은, 소셜 미디어와 검색 환경에 익숙한 청소년, 대학생조차 온라인 정보의 출처와 신뢰성을 평가하는 데 반복적으로 실패하며, 광고, 뉴스, 홍보 자료를 잘 구분하지 못한다는 점을 여러 보고서에서 보여준다. 게스와 동료연구진(2020)과 서린과 동료연구진(2021)의 연구는 디지털 리터러시 교육이 진짜, 가짜 뉴스를 구별하는 능력을 분명히 끌어올리지만, 사람들은 여전히 상황에 따라 문장의 유창성이나 어조, 페이지 디자인 같은 주변적 단서에 의존하는 저노력 판단 전략으로 쉽게 되돌아갈 수 있음을 지적한다
대응 전략: 균형 잡힌 접근
그렇다면 우리는 어떻게 해야 하는가? 사이버심리학, 행동 및 소셜 네트워킹(Cyberpsychology, Behavior, and Social Networking) 저널에 게재된 황유리와 정세훈(2025년 4월)의 한국 성인 208명을 대상으로 한 실험 연구는 희망적인 결과를 제시한다. AI 환각 가능성에 대한 짧은 사전 경고만으로도 AI가 만들어 낸 허위 정보에
동의하는 비율이 유의하게 감소했으며, 진짜 정보에 대한 수용도는 유의미하게 줄어들지 않았다. 특히 스스로 깊이 생각하는 것을 선호하는 참가자일수록 이러한 경고의 효과가 더 컸다는 점도 보고된다. 기업 차원에서도 비슷한 흐름이 관찰된다. IBM AI Adoption Index 2025를 인용한 최근 정리에 따르면, 조사에 참여한 기업의 약 76%가 생성형 AI가 만들어 낸 결과를 그대로 배포하지 않고, 사람이 검토, 개입하는 human‑in‑the‑loop 프로세스 (자동화·AI 시스템의 중요한 단계에 사람이 계속 개입하는 설계 방식)를 구축해 환각을 걸러내려 하고 있다. UC 버클리의 수타르자 센터(Sutardja Center)와 관련 연구자들은, 이러한 절차적 통제와 함께 강건하고 해석 가능한 모델 설계, 편향을 줄이기 위한 다양한 훈련 데이터, 그리고 적대적 공격에 대비한 기술적 방어 장치가 앞으로도 지속적으로 필요하다고 강조한다.
결론: 비판적 사고의 필수성
AI가 가져올 지식 민주화는 분명 혁명적이지만, 환각의 위험은 통계적으로 불가피하며 완전 제거는 계산적으로 불가능하다는 것이 최근 이론 연구의 결론이다 (Kalai & Vempala, 2024). 우리는 증기기관이나 인터넷처럼 AI를 활용하면서도, 그것이 통계적 패턴을 기반으로 가장 가능성 있는 다음 단어를 예측하는 확률적 시스템이라는 본질을 잊어서는 안 된다. 광대한 AI 생성 정보의 바다에서 익사하지 않으려면, 세 가지를 기억해야 한다. 첫째, 유창성 편향(fluency bias)을 경계하라. AI의 답변이 아무리 유창해도 신뢰할 수 있는 출처를 통한 검증이 필수적이다. 매끄러운 정보는 인지적 편안함을 주지만 진실성을 보장하지 않는다. 검증 가능한 출처만이 신뢰의 기준이다. 둘째, 인간 주체성(human agency)을 견지하라. AI는 도구일 뿐이며 최종 판단은 인간의 비판적 사고에 달려 있다. 셋째, 메타인지적 각성(metacognitive awareness)을 유지하라. AI 환각에 대한 인식 자체가 허위 정보에 대한 최선의 방어책이다. 지식은 정보의 양이 아니라 분별의 질에서 온다. 소포클레스의 고전 명언을 빌려 말하자면, 신들이 파멸시키고자 하는 자를 먼저 환각에 빠뜨린다. AI가 가져온 지식 민주화의 혁명의 가속화 속에서, 우리는 환각과 진실을 가려내는 능력이야 말로 생존의 핵심 리터러시(literacy)임을 새삼 깨달아야 한다. 이 구분의 기술이야 말로 미래 지성의 새로운 영역이 될 것이다.
