Отчет KPMG о преимуществах ИИ оказался полон галлюцинаций искусственного интеллекта
Опубликованный одной из компаний «Большой четверки» KPMG отчет о применении ИИ содержал множество ложных ссылок и неточных утверждений, которые, вероятно, были сгенерированы самим ИИ.
В октябре прошлого года KPMG, одна из ведущих мировых аудиторских и консалтинговых компаний «Большой четверки», опубликовала отчет под названием «Total Experience: Redefining Excellence in the Age of Agentic AI». В документе описывалось, как компании используют искусственный интеллект для удовлетворения потребностей клиентов. Однако расследование, проведенное GPTZero (разработчиком инструментов для обнаружения контента ИИ) и подтвержденное газетой Financial Times, показало, что отчет изобилует неточностями и поддельными сносками.
GPTZero установила, что только пять из 45 ссылок в отчете корректно указывали на реальные источники. 28 ссылок содержали перефразированные названия или вымышленные дополнения к реальным источникам, а 12 были сформулированы слишком расплывчато, чтобы определить их существование. Такое создание поддельных ссылок GPTZero назвала «vibe citing».
Помимо ложных ссылок, около половины утверждений в отчете оказались вымышленными или неверно приписанными. GPTZero считает, что это «вероятно, результат чрезмерного усердия ИИ-инструмента при поиске примеров „агентного ИИ“ в реальном мире».
Яркие примеры: KPMG утверждала, что авиакомпания Emirates запустила мобильный чат-бот Sara, способный общаться с пассажирами и изменять их рейсы. На самом деле Sara — это мобильный помощник, запущенный в 2023 году, который не является чат-ботом на базе ИИ и не может менять бронирования. KPMG также заявила, что швейцарский инвестиционный банк UBS внедрил агентный ИИ в консультирование по инвестициям, управление рисками и мониторинг соответствия. UBS назвал эту информацию «фактически неверной». Другой пример: KPMG упомянула, что Швейцарские федеральные железные дороги (SBB) используют ИИ-агентов для помощи пассажирам в планировании поездок. Представитель SBB опроверг это.
Отчеты таких компаний, как KPMG, обычно считаются надежными и часто цитируются в других исследованиях. Генеральный директор GPTZero Эдвард Тянь предупредил, что документы «Большой четверки», полные ошибок, могут «отравить информационный колодец» и привести к вторичным галлюцинациям ИИ. Представитель KPMG заявил The Times, что компания «серьезно относится к точности и целостности публикуемого контента». KPMG отозвала отчет и сейчас рассматривает обстоятельства его публикации.
