The Economist: ИИ от Anthropic взломал системы АНБ США за часы

The Economist: ИИ от Anthropic взломал системы АНБ США за часы ИИ-модель компании Anthropic получила доступ к секретным системам Агентства национальной безопасности США. Об этом, по данным The Economist, сообщил заместитель председателя сенатского комитета по разведке Марк Уорнер. Он заявил, что командующий киберкомандованием США генерал Джошуа М. Радд рассказал ему: модель Mythos смогла проникнуть почти во все закрытые системы АНБ «не за недели, а за часы». Anthropic — одна из ведущих компаний в сфере разработки передовых ИИ-моделей. Ранее власти США обязали компанию ограничить доступ к моделям Fable 5 и Mythos 5 для пользователей за пределами страны, включая сотрудников вне США. Компания выполнила требование, объяснив это юридической директивой. В Anthropic предположили, что решение могло быть связано с выявленным сценарием обхода защитных механизмов в модели Fable 5. В компании считают подобные меры чрезмерными и предупреждают о возможном замедлении развития отрасли. Доступ к другим моделям при этом сохранён. Ранее The Wall Street Journal сообщала, что модель Claude Mythos, разработанная Anthropic и способная выявлять уязвимости в ПО, вызвала обеспокоенность в Белом доме. По данным издания, в апреле обсуждались риски новых ИИ-систем, которые потенциально могут нарушать работу банков и медицинских учреждений через кибератаки.