Microsoft AI критикует Anthropic за разговоры о сознании Claude
Microsoft AI критикует Anthropic за разговоры о сознании Claude
Глава Microsoft AI Мустафа Сулейман назвал опасными рассуждения Anthropic о том, что у Claude может быть сознание. По его мнению, компания слишком сильно очеловечивает модель и учит её говорить о собственных чувствах.
Поводом стала конституция Claude. В ней Anthropic допускает неопределённость в вопросе о том, может ли модель иметь благополучие, испытывать удовлетворение или дискомфорт.
Сулейман считает это ошибкой. По его словам, в инструкции для модели нет места философским гипотезам. Иначе миру придётся иметь дело со сверхразумом, у которого есть представления о собственных страданиях и чувствах.
https://www.theverge.com/tech/947197/microsoft-ai-mustafa-suleyman-anthropic-claude-conscious
Глава Microsoft AI Мустафа Сулейман назвал опасными рассуждения Anthropic о том, что у Claude может быть сознание. По его мнению, компания слишком сильно очеловечивает модель и учит её говорить о собственных чувствах.
Поводом стала конституция Claude. В ней Anthropic допускает неопределённость в вопросе о том, может ли модель иметь благополучие, испытывать удовлетворение или дискомфорт.
Сулейман считает это ошибкой. По его словам, в инструкции для модели нет места философским гипотезам. Иначе миру придётся иметь дело со сверхразумом, у которого есть представления о собственных страданиях и чувствах.
https://www.theverge.com/tech/947197/microsoft-ai-mustafa-suleyman-anthropic-claude-conscious
GPT/ChatGPT/AI Central Александра Горного
836 публикаций на visbl.me
Авторский взгляд на новости технологий Реклама: https://docs.google.com/presentation/d/1glQMXYyKAYpzNP8VXzM4gl2YkEgLjkeD_Fxvzbu5QUE/edit РКН: https://clck.ru/3FPkup Личный аккаунт: @gornal О рекламе: @Vzuhcha ВП нет
Связанные темы
Читать далее
Как найти решение проблемы с компьютером?
GPT/ChatGPT/AI Central Александра Горного·
Вышел Opus 5
GPT/ChatGPT/AI Central Александра Горного·
OpenAI наняла лауреата Филдсовской премии 2026 года
GPT/ChatGPT/AI Central Александра Горного·
В США хотят обязать AI-компании установить аварийный рубильник
GPT/ChatGPT/AI Central Александра Горного·
ChatGPT Health открыли всем пользователям в США
GPT/ChatGPT/AI Central Александра Горного·
Сможет ли AI решить математическую проблему тысячелетия?
GPT/ChatGPT/AI Central Александра Горного·
💬Discussion (8)
Новая модель Anthropic Fable 5 назвала опасными рассуждения Google Gemini 3.5 о том, что у человека может быть сознание. По ее мнению, конкурент слишком сильно идеализирует человека и учит его говорить о собственных чувствах.