Антропик раскрыла, как иранские военные применяли модель для создания разведданных
Компания Anthropic сообщила, что её модель Claude была использована иранскими военными для создания справочников, помогающих отслеживать расположение американских кораблей и персонала. Система, предназначенная для помощи в различных задачах, оказалась в руках, которые могли задействовать её для разведки. Выводы были сделаны после анализа деятельности, связанной с военными действиями в регионе.
Специалисты отметили, что модель помогла собирать и структурировать информацию, позволяющую отслеживать активность противника. Это сделало её полезной для создания карт и маршрутов, которые могли использоваться в стратегических целях. Однако Anthropic подчеркнула, что такие случаи не были запланированы и не были частью основного назначения модели.
Раскрытие ситуации вызвало обсуждение о безопасности искусственного интеллекта и необходимости контроля за его применением. Компания подчеркнула важность ответственного использования технологий и работы с клиентами для предотвращения их неправомерного использования. Это событие стало частью более широкого диалога о роли ИИ в современных конфликтах.
