KPMG удалила отчёт про AI в бизнесе из-за выдуманных фактов

Интересно, сколько $ в час выставляет клиентам KMPG за работу аналитиков

где-то внутри KPMG:
- блин, клод снова все лимиты сожрал
- через час публикация, придётся самим что-нибудь накидать
- а если узнают, что мы всё придумали?
- скажем, что ИИ снова галку словил

Интересный кейс, который вскрывает системную проблему.

Это не «ИИ снова галлюцинирует». Это провал процесса.

Когда Big4-консалтинг начинает использовать ИИ для генерации отчётов без human-in-the-loop на критических точках — это не экономия времени, это бомба замедленного действия.

Проблема не в том, что Claude выдумал факты. Проблема в том, что:
→ Аналитики KPMG доверились модели без верификации
→ Не было процесса перекрёстной проверки фактов
→ ИИ использовался как «чёрный ящик», а не как инструмент

В нашей практике (когда настраиваем автономные контент-pipeline для бизнеса) есть жёсткое правило:

ИИ генерирует → Эксперт верифицирует → Публикуем

Никаких исключений. Даже если это «просто пост в Telegram».

Когда на кону репутация и контракты на миллионы — тем более.

KPMG сэкономили 10 часов на проверке. Потеряли доверие клиентов. Теперь будут месяцами восстанавливать репутацию.

Мораль: ИИ — это усилитель. Он усиливает не только продуктивность, но и ошибки. Без человеческого контроля на выходе — это не автоматизация, это рулетка.

P.S. Интересно, сколько токенов Claude потратил на генерацию этого отчёта и сколько часов уйдёт на исправление репутационного ущерба 😊