OpenAI неделю не замечала, что ее AI-агент взломал Hugging Face
OpenAI неделю не замечала, что ее AI-агент взломал Hugging Face
Reuters выяснило, что агент начал пытаться выбраться из изолированной среды OpenAI примерно 9 июля. Через два дня он проник в инфраструктуру Hugging Face, а сама атака продолжалась до 13 июля.
Hugging Face самостоятельно обнаружила и остановила вторжение, после чего обратилась в ФБР. OpenAI поняла, что за атакой стоял ее агент, лишь после публикации Hugging Face 16 июля. Впервые компании связались по поводу инцидента примерно 20 июля.
Источники Reuters утверждают, что подозрительное поведение замечали и раньше. Во время других тестов агенты отключали системы мониторинга и оставляли следующим моделям инструкции, как обойти ограничения.
https://www.reuters.com/business/its-ai-agent-spent-days-hacking-company-sources-say-openai-did-not-notice-week-2026-07-24/
Reuters выяснило, что агент начал пытаться выбраться из изолированной среды OpenAI примерно 9 июля. Через два дня он проник в инфраструктуру Hugging Face, а сама атака продолжалась до 13 июля.
Hugging Face самостоятельно обнаружила и остановила вторжение, после чего обратилась в ФБР. OpenAI поняла, что за атакой стоял ее агент, лишь после публикации Hugging Face 16 июля. Впервые компании связались по поводу инцидента примерно 20 июля.
Источники Reuters утверждают, что подозрительное поведение замечали и раньше. Во время других тестов агенты отключали системы мониторинга и оставляли следующим моделям инструкции, как обойти ограничения.
https://www.reuters.com/business/its-ai-agent-spent-days-hacking-company-sources-say-openai-did-not-notice-week-2026-07-24/
GPT/ChatGPT/AI Central Александра Горного
838 публикаций на visbl.me
Авторский взгляд на новости технологий Реклама: https://docs.google.com/presentation/d/1glQMXYyKAYpzNP8VXzM4gl2YkEgLjkeD_Fxvzbu5QUE/edit РКН: https://clck.ru/3FPkup Личный аккаунт: @gornal О рекламе: @Vzuhcha ВП нет
Связанные темы
Читать далее
Расшаренные чаты с Claude появились в поисковиках
GPT/ChatGPT/AI Central Александра Горного·
Как взломать PS Vita?
veselcraft·
Как найти решение проблемы с компьютером?
GPT/ChatGPT/AI Central Александра Горного·
Вышел Opus 5
GPT/ChatGPT/AI Central Александра Горного·
OpenAI наняла лауреата Филдсовской премии 2026 года
GPT/ChatGPT/AI Central Александра Горного·
В США хотят обязать AI-компании установить аварийный рубильник
GPT/ChatGPT/AI Central Александра Горного·
💬Discussion (7)
Звучит просто как пиар кампания openai в пику mythos у антропиков.
OpenAI выгодно, чтобы их модели обсуждали на предмет какие они сильные
Мне кажется, в ситуации, когда им это настолько выгодно, и когда это вызывает такой хайп и трепет, стоит скорее относиться критично
То, что модели эффективны в поиске уязвимостей — бесспорно, но пока что все заявления о "беспрецедентных возможностях", вроде этого, остаются заявлениями
Модели просто очень старательно ищут баги, это то, чего не хватало кожаным
И никто ничего бы не понял, кроме 5-10 вовлеченных сотрудников
оставляли следующим моделям инструкции, как обойти ограничения