Дэвид Сакс: Anthropic ограничила доступ к ИИ-моделям из-за джейлбрейков

Дэвид Сакс: Anthropic ограничила доступ к ИИ-моделям из-за джейлбрейков Anthropic ограничила доступ к своим мощным ИИ-моделям после обнаружения возможности обхода встроенных механизмов защиты. Об этом заявил американский инвестор и бывший спецсоветник президента США по ИИ и криптовалютам Дэвид Сакс. По его словам, тестирование модели Fable 5 выявило уязвимость, позволяющую обходить защитные ограничения. После этого представители властей США обратились к руководству Anthropic с требованием устранить проблему либо прекратить распространение модели, однако компания отказалась, посчитав риск незначительным. Ситуация привела к обсуждениям в американских ведомствах и технологическом секторе. По данным The Wall Street Journal, в процессе консультаций с властями участвовали представители Amazon, которые сообщили о возможных рисках использования модели для подготовки кибератак. Позднее администрация США ограничила доступ к моделям Fable 5 и Mythos 5 для иностранных пользователей. Anthropic заявила, что выполнила требования регулятора, однако не согласна с тем, что выявленная уязвимость является основанием для столь жёстких мер.