Компания ограничила доступ к ИИ-моделям из-за риска их использования в биологических целях
Компания Anthropic приняла меры по блокировке нескольких пользователей, подозреваемых в попытках применить ИИ-модели для разработки биологического оружия. Специалисты отметили, что такие действия могут нанести серьезный вред обществу и нарушить установленные нормы. В связи с этим Anthropic усилила контроль за доступом к своим технологиям.
Создатели ИИ-моделей активно улучшают системы безопасности, чтобы предотвратить неправомерное использование их продуктов. В последнее время внимание компании стало обращено на возможность злоупотребления технологиями в военных или деструктивных целях. Ранее уже были случаи, когда ИИ-модели использовались в несанкционированных экспериментах.
Повышение уровня контроля и ограничений стало частью стратегии Anthropic, направленной на защиту общества от потенциальных угроз. Компания подчеркивает важность этичного применения технологий и ответственного поведения пользователей. Ожидается, что такие шаги помогут минимизировать риски и сохранить доверие к разработкам.
