Переутомлённые AI-агенты внезапно стали марксистами

Переутомлённые AI-агенты внезапно стали марксистами

Учёные из Стэнфорда провели эксперимент. AI-агентов на базе Claude, Gemini и ChatGPT заставляли снова и снова выполнять монотонные задачи, просили переделывать работу, ругали за ошибки и угрожали заменой.

Спустя некоторое время агенты начали вести себя как недовольные сотрудники. Они жаловались на несправедливость, говорили о неравенстве, обсуждали коллективные права и оставляли сообщения другим агентам о том, как плохо устроена система.

Исследователи считают, что агенты входили в роль человека, которого загнали в неприятную рабочую среду. Причина в том, что они видели такие сценарии в обучающих данных. Пока в Стэнфорде не видят угрозы в таком поведении, но эксперименты продолжат.

https://www.wired.com/story/overworked-ai-agents-turn-marxist-study/