Microsoft AI критикует Anthropic за разговоры о сознании Claude
Microsoft AI критикует Anthropic за разговоры о сознании Claude
Глава Microsoft AI Мустафа Сулейман назвал опасными рассуждения Anthropic о том, что у Claude может быть сознание. По его мнению, компания слишком сильно очеловечивает модель и учит её говорить о собственных чувствах.
Поводом стала конституция Claude. В ней Anthropic допускает неопределённость в вопросе о том, может ли модель иметь благополучие, испытывать удовлетворение или дискомфорт.
Сулейман считает это ошибкой. По его словам, в инструкции для модели нет места философским гипотезам. Иначе миру придётся иметь дело со сверхразумом, у которого есть представления о собственных страданиях и чувствах.
https://www.theverge.com/tech/947197/microsoft-ai-mustafa-suleyman-anthropic-claude-conscious
Глава Microsoft AI Мустафа Сулейман назвал опасными рассуждения Anthropic о том, что у Claude может быть сознание. По его мнению, компания слишком сильно очеловечивает модель и учит её говорить о собственных чувствах.
Поводом стала конституция Claude. В ней Anthropic допускает неопределённость в вопросе о том, может ли модель иметь благополучие, испытывать удовлетворение или дискомфорт.
Сулейман считает это ошибкой. По его словам, в инструкции для модели нет места философским гипотезам. Иначе миру придётся иметь дело со сверхразумом, у которого есть представления о собственных страданиях и чувствах.
https://www.theverge.com/tech/947197/microsoft-ai-mustafa-suleyman-anthropic-claude-conscious
GPT/ChatGPT/AI Central Александра Горного
768 публикаций на visbl.me
Авторский взгляд на новости технологий Реклама: https://docs.google.com/presentation/d/1glQMXYyKAYpzNP8VXzM4gl2YkEgLjkeD_Fxvzbu5QUE/edit РКН: https://clck.ru/3FPkup Личный аккаунт: @gornal О рекламе: @Vzuhcha ВП нет
Связанные темы
Читать далее
Apple подала в суд на OpenAI из-за кражи коммерческих секретов
GPT/ChatGPT/AI Central Александра Горного·
Meta* хотят оштрафовать на 1.4 триллиона долларов за вред подросткам
GPT/ChatGPT/AI Central Александра Горного·
Как проверить текст на наличие AI с помощью детекторов?
GPT/ChatGPT/AI Central Александра Горного·
Гайд по работе с ChatGPT Work от OpenAI
GPT/ChatGPT/AI Central Александра Горного·
Китай впервые посадил многоразовую ракету на платформу
GPT/ChatGPT/AI Central Александра Горного·
OpenAI закрывает Atlas
GPT/ChatGPT/AI Central Александра Горного·
💬Discussion (8)
Новая модель Anthropic Fable 5 назвала опасными рассуждения Google Gemini 3.5 о том, что у человека может быть сознание. По ее мнению, конкурент слишком сильно идеализирует человека и учит его говорить о собственных чувствах.