Белый дом требует от Anthropic заблокировать способы обхода ограничений Fable 5
Кодик кратко объясняет суть статьи
Белый дом требует от компании Anthropic устранить все уязвимости в модели Fable 5, полностью заблокировав способы обхода её защитных ограничений, после того как выяснилось, что с помощью специальных промптов можно получить доступ к закрытой информации из модели Mythos 5, включая данные по кибербезопасности, химии и биологии. Администрация США временно отключила модель и настаивает на проактивном тестировании уязвимостей со стороны разработчика, поскольку у государства нет ресурсов для постоянного контроля. Anthropic считает риски преувеличенными, а эксперты сомневаются, что полностью исключить обход ограничений возможно. Великобритания запросила исключение для доступа к моделям, но США отклонили просьбу, подтвердив неприменение поблажек даже для союзников.
Читайте в Telegram
|
Белый дом требует от компании Anthropic полностью заблокировать способы обхода ограничений Fable 5. Об этом сообщает WIRED, ссылаясь на источники в администрации Трампа.
Власти заявили, что для возвращения этой модели разработчикам придётся устранить все уязвимости. Ранее нейросеть отключили из-за опасений, что пользователи могут обходить её защитные барьеры с помощью специальных промптов.
Сама компания Anthropic считает эти опасения сильно преувеличенными. На недавней технической встрече с Министерством торговли её представители заявили, что последствия таких обходов минимальны.
Однако Агентство национальной безопасности США пришло к иному выводу. Ведомство подтвердило, что защиту Fable 5 действительно можно отключить, получив доступ к закрытым данным модели Mythos по кибербезопасности, химии и биологии.
Теперь администрация президента считает это исключительно проблемой самой компании. От Anthropic ждут проактивного тестирования всех передовых моделей и самостоятельного выявления уязвимостей, так как у правительства нет на это ресурсов.
При этом независимые эксперты по кибербезопасности сомневаются в реалистичности таких требований. Они подчёркивают, что полностью исключить способы обхода ограничений Fable 5 невозможно, так как опытные пользователи всё равно найдут новые лазейки.
