Белый дом требует от Anthropic заблокировать способы обхода ограничений Fable 5

Белый дом требует от компании Anthropic полностью заблокировать способы обхода ограничений Fable 5. Об этом сообщает WIRED, ссылаясь на источники в администрации Трампа.

Власти заявили, что для возвращения этой модели разработчикам придётся устранить все уязвимости. Ранее нейросеть отключили из-за опасений, что пользователи могут обходить её защитные барьеры с помощью специальных промптов.

Сама компания Anthropic считает эти опасения сильно преувеличенными. На недавней технической встрече с Министерством торговли её представители заявили, что последствия таких обходов минимальны.

Однако Агентство национальной безопасности США пришло к иному выводу. Ведомство подтвердило, что защиту Fable 5 действительно можно отключить, получив доступ к закрытым данным модели Mythos по кибербезопасности, химии и биологии.

Теперь администрация президента считает это исключительно проблемой самой компании. От Anthropic ждут проактивного тестирования всех передовых моделей и самостоятельного выявления уязвимостей, так как у правительства нет на это ресурсов.

При этом независимые эксперты по кибербезопасности сомневаются в реалистичности таких требований. Они подчёркивают, что полностью исключить способы обхода ограничений Fable 5 невозможно, так как опытные пользователи всё равно найдут новые лазейки.