Mythos от Anthropic за часы вскрыла почти все секретные системы АНБ

Mythos от Anthropic за часы вскрыла вскрыла почти все секретные системы АНБ

Сенатор Марк Уорнер, зампред комитета Сената по разведке, пересказал слова генерала Джошуа Радда, главы АНБ и Киберкомандования. Радд заявил, что Mythos сломал почти все секретные системы ведомства не за недели, а за часы. Цитату опубликовал The Economist 11 июня, а в выходные она взорвала соцсети.

Это был не настоящий взлом со стороны. АНБ само провело авторизованный красный тест. Mythos натравили на копии собственных секретных систем и он быстро нашел и связал уязвимости. То есть модель сильна в наступательной кибербезопасности.

Шашанк Джоши, редактор The Economist, опубликовавший цитату, после волны в соцсетях написал, что фразу нельзя понимать буквально. Эффект работал в особых условиях, вместе с другими инструментами

Сам Уорнер привел этот случай как похвалу Anthropic. Он говорил, что хорошо, что таким инструментом владеет именно она, и что фронтирные модели надо строже тестировать перед выходом.

В тот же день Amazon нашел отдельный джейлбрейк в моделях Anthropic, а Трамп приказал закрыть иностранцам доступ к Mythos и Fable. Anthropic пошла дальше и отключила обе модели полностью. Под раздачу попали и союзники по Five Eyes, и британский институт безопасности ИИ, который как раз тестировал эти модели.

Сама Anthropic называет джейлбрейк узким и считает полный отзыв чрезмерной мерой. Компания сейчас работает с Белым домом над общими правилами оценки рисков и пытается вернуть доступ

Красивый пиар или действительноб переживают за нац. безопасность? Вопрос открытый.