글로벌 회계·컨설팅 기업 KPMG가 자체 보고서에서 AI의 오류(환각 현상)가 발견되자 해당 보고서를 웹사이트에서 긴급 회수했다고 16일 밝혔다. 이 보고서는 최신 AI 기술의 활용 방안을 다뤘으나, 인용된 기업들의 AI 사용 현황이 사실과 다르다는 지적이 잇따랐다.
AI 환각 현상으로 인한 오류 발생
문제가 된 보고서의 제목은 ‘Agentic AI 시대의 탁월함 재정의(Redefining excellence in the age of agentic AI)’로, 지난해 10월 발간되었다. 보고서 발행 이후 영국 최대 은행 UBS, 영국 국민보건서비스(NHS), 스위스 연방 철도(Swiss Federal Railways), 런던 교통국(Transport for London) 등 다수의 기관이 보고서 내용이 사실과 다르거나 오해의 소지가 있다고 KPMG 측에 전달했다.
리서치 그룹 GPTZero는 해당 보고서에서 다수의 부정확한 정보가 발견되었으며, 이는 AI가 생성한 내용에 대한 검증 부족에서 비롯된 'AI 환각(hallucination)' 현상 때문이라고 지적했다. 즉, KPMG가 AI 활용에 대한 보고서를 작성하면서 AI를 사용한 것이 오히려 오류를 야기한 것으로 보인다.
KPMG, 자체 조사 및 책임 있는 AI 사용 강조
KPMG 대변인은 “현재 보고서를 웹사이트에서 내리고 자체 조사를 진행 중”이라며, “모든 직원은 콘텐츠 검증 및 독립적인 출처 확인을 위한 인간의 감독을 포함한 책임감 있는 AI 사용 지침을 준수해야 한다”고 강조했다. 이는 최근 EY(Ernst & Young)가 AI 환각 및 가짜 각주를 포함한 보고서를 철회한 데 이어 또다시 AI 기술의 신뢰성 문제가 불거진 사례로 주목받고 있다.