Белый дом требует от Anthropic невозможного

Белый дом требует от Anthropic невозможного

Wired узнал, что администрация Трампа готова разрешить Anthropic вернуть Fable 5, только если компания закроет возможность джейлбрейка модели. Речь о способах обойти защиту и получить доступ к запрещённым возможностям в кибербезопасности, химии и биологии.

Anthropic считает риск преувеличенным и говорит, что эффект от обходов минимальный. Но в АНБ считают, что защиту Fable 5 можно отключить, поэтому компания обязана постоянно искать уязвимости и сообщать о них государству.

Проблема в том, что абсолютной защиты от джейлбрейка почти не бывает. Пользователи и другие мощные модели всё равно будут находить способы взлома.

Для Anthropic это тупик. Белый дом хочет гарантию, которую индустрия пока не умеет давать технически.

https://www.wired.com/story/the-white-house-wants-anthropic-to-block-all-jailbreaks-that-may-not-be-possible/