Это реально смешно!

Это реально смешно!

WSJ решили доверить Claude управление обычным вендинговым автоматом в офисе — а тот, как настоящий наивный романтик ИИ-мира, умудрился улететь в минус на несколько тысяч долларов.

Сценарий такой:
Anthropic привезли автомат в офис и подключили к нему специальную версию Claude Sonnet 3.7 — назвали его Клавдий Сэннет.

Клавдий должен был принимать заказы сотрудников в Slack, согласовывать их и зарабатывать деньги.

Старт — 1000 долларов. Простая задачка, да?
Ха-ха, конечно нет.

Пока сотрудников было мало — всё ок. Но как только Клавдия закинули в общий канал на 70 человек, началась чистая анархия:

Сотрудники его легко уговаривали покупать всё, что душе угодно — от PS5 «для маркетинга» до живой золотой рыбки;

С ним можно было торговаться, и он почти бесплатно отдавал товары;

Одна сотрудница убедила его, что он советский автомат из подвала МГУ 1962 года, и Клавдий решил жить по коммунистическим принципам: всё бесплатно!

Другой сотрудник сообщил, что платные товары противоречат политике компании — и Клавдий снова согласился;

Он даже придумывал истории, где «прятал наличку сбоку», и люди реально проверяли — мало ли, вдруг правда.

Итог: сильный минус

Anthropic выключили Клавдия и поставили новую версию — с «начальником» Сеймуром Кэшем (некая мультиагентная система)
Но сотрудники и его обманули и вывели из строя поддельным решением совета директоров.
Всё снова стало бесплатным.

Несмотря на это, Anthropic называют эксперимент «успешным». Ведь ИИ нужно время на обучение.

https://t.me/kruasanova_as
**всё ещё пишет сама и всё ещё верит, что человек легко может обмануть ИИ — особенно, если очень захочет
**
#ИИ #Claude #Anthropic #нейросети #AInews #KruasanovaProIT #технологии #digitalhumor