1200 сотрудников AI-компаний попросили сделать тормоз для AI-гонки

1200 сотрудников AI-компаний попросили сделать тормоз для AI-гонки

Сотрудники OpenAI, Anthropic, Google, Microsoft, Mistral и других компаний обратились к правительству США. Они просят поддержать разработку механизмов, которые позволят при необходимости замедлить развитие самого мощного AI.

Авторы считают, что автоматизация уже близко. Скоро модели смогут сами создавать следующие поколения моделей. Прогресс может резко ускориться, и люди не будут успевать оценивать безопасность нового AI.

Обращение подписали 1224 специалиста. Среди них глава Anthropic Дарио Амодеи, главный ученый OpenAI Якуб Пахоцкий, главный исследователь OpenAI Марк Чен. Все они выступили лично, а не от имени своих компаний.

https://www.theverge.com/ai-artificial-intelligence/972161/ai-leaders-us-government-openai-anthropic-google-meta