Почему метафора о дописывании символов не объясняет AI?
Подумал, что последние полгода стала бессмысленной метафора, что "AI дописывает самый вероятный символ в тексте".
Ну т. е. понятно, что это так и есть внутри, но в современных продуктах это так же плохо объясняет конечный результат, как то что "есть транзисторы типа OR и типа AND и они срабатывают по-разному в разных случаях".
Ну т. е. понятно, что это так и есть внутри, но в современных продуктах это так же плохо объясняет конечный результат, как то что "есть транзисторы типа OR и типа AND и они срабатывают по-разному в разных случаях".
GPT/ChatGPT/AI Central Александра Горного
451 публикаций на visbl.me
Авторский взгляд на новости технологий Реклама: https://docs.google.com/presentation/d/1glQMXYyKAYpzNP8VXzM4gl2YkEgLjkeD_Fxvzbu5QUE/edit РКН: https://clck.ru/3FPkup Личный аккаунт: @gornal О рекламе: @Vzuhcha ВП нет
Связанные темы
Читать далее
Отпугнуть запахом
Стартап дня. Александр Горный.·
Акции японского производителя унитазов Toto взлетели из-за AI
GPT/ChatGPT/AI Central Александра Горного·
Oracle массово сокращает людей, которые помогали обучать её AI
GPT/ChatGPT/AI Central Александра Горного·
Как технологии из Силиконовой долины меняют будущее?
Оскар Хартманн·
Дефицит электростанций
Стартап дня. Александр Горный.·
Как избежать спама в Telegram?
GPT/ChatGPT/AI Central Александра Горного·
💬Discussion (8)
p.s. это как двигатель в F1 и двигатель в автомобиле в 1920 году - принципиально не поменялся, и там и там мощность генерируется за счет энергии сгорания; но разница между ними инженерно - колоссальная. Так и тут - GPT 2.0 и современные Агентские системы - инженерно на принципиально разных уровнях, но принцип их работы (в части текста) - одинаков
В чем качественный скачок?
Качественный скачок в результате. Если сейчас попросить Claude Code "напиши агента планировщика, агента исследователя, агента критика и агента-ещё-какого-нибудь и поставь им задачу написать мне диссертацию про восстание декабристов", то полученный результат не будет удобно объясним на уровне последнего символа.
— Знаете как делают корабли в бутылках?
— Берут бутылку, заливают туда клей, накидывают всяких палочек, спичек. И трясут. Получаются всякие интересные штуки. Иногда корабли.
Для меня это все еще казино, ток вместо фишек - промты и токены. повезет и будет хороший результат быстро и +- качественно. а может и не повезти. в любом случае ток казино выигрывает
когда профессионалу дают чушь - профессионал и реагирует, да что за чушь мне дали.
когда ИИ системе - она уверенно продолжает.
конечно, можно ей дать оценить, и вход, и результат.
но недавно пробегало исследование:
давали законченный и норм код. проверенный и одобренный ревьюверами людьми.
и просили - найти в нем дефекты, улучшить.
печальная история - более чем в 70% ИИ система находила и улучшала!
то есть переколбашивала норм код, оверинжинирила, пыталась творить архитектурную астронавтику.
это и есть - просто угадывает следующее слово.
"своего мнения" у ИИ нет.