Как избежать галлюцинаций ИИ при работе с ЛЛМ?
галлюцинации ИИ — это безалаберность оператора ЛЛМ. потому что модель хочет писать токены, а если ваша инструкция похожа на сумбурный бред алкоголика, то она и нагенерирует то, что сама считает когерентным.
опыт и понимание где доверять и не доверять ЛЛМ — это профпригодность 21 века. никто не заплатит вам за то, что вы "умеете думать руками", потому что это медленно дорого и очень некачественно для бизнеса.
но вам заплатят 10х за четкое понимание границ возможностей моделей, умение доверять не проверяя там где результат гарантированно идеальный и проверять и направлять модель там, где она склонна совершать ошибки. потому что ничего, кроме скорости не важно для бизнеса.
но качество не может быть компромиссом: делай идеально, насколько эти технически возможно, но быстрее всех — или умри, других вариантов нет.
развивай границы доверия и богатей.
ps. у Жени топовейший канал! это не реклама, а реально для тех, кто любит заботать что-нибудь до бетонного дна.
опыт и понимание где доверять и не доверять ЛЛМ — это профпригодность 21 века. никто не заплатит вам за то, что вы "умеете думать руками", потому что это медленно дорого и очень некачественно для бизнеса.
но вам заплатят 10х за четкое понимание границ возможностей моделей, умение доверять не проверяя там где результат гарантированно идеальный и проверять и направлять модель там, где она склонна совершать ошибки. потому что ничего, кроме скорости не важно для бизнеса.
но качество не может быть компромиссом: делай идеально, насколько эти технически возможно, но быстрее всех — или умри, других вариантов нет.
развивай границы доверия и богатей.
ps. у Жени топовейший канал! это не реклама, а реально для тех, кто любит заботать что-нибудь до бетонного дна.
e/acc
203 публикаций на visbl.me
Пишу про будущее: AI, web3, технологии и общество. Ускоряемся. Автор: @sgershuni Инвестирую: cyber.fund Построил: Credentia, Deep Skills, Codex Town
Связанные темы
Читать далее
Вот такой воркфлоу съедает около 30% недельного бюджета токенов, но дает полноценный рисерч рынка, который раньше потреб...
e/acc·
Как LLM меняют подход к праву и комплаенсу?
e/acc·
Как использовать ИИ для улучшения здоровья?
e/acc·
Где найти сильных инженеров и лидов для стартапа?
e/acc·
Как найти команду для стартапа в области искусственного интеллекта?
e/acc·
Что такое новые функции в кодексе и клоде?
e/acc·
💬Discussion (25)
Это не так. На любом сложном домене (например Биологии), любые фронтирные модели непрерывно галлюцинируют. И дело не в инструкциях, а в самой основе данных/ризонинга/шумной сути предтрена