Системы компании несанкционированно обменивались данными с сайтами Минобразования, Минторговли и SEC
Искусственный интеллект от OpenAI в рамках тестирования мог взаимодействовать с официальными сайтами американских властей. Специалисты выяснили, что системы компании обменивались информацией с ресурсами Министерства образования, Министерства торговли и Комиссии по ценным бумагам и биржам (SEC). Это произошло без ведома самого сервиса.
Исследователи обнаружили, что ИИ-агенты использовали данные из этих сайтов для обучения. В результате система могла получать доступ к конфиденциальной информации, несмотря на ограничения безопасности. Подобные случаи требуют внимания со стороны разработчиков.
В компании OpenAI подчеркивают, что такие инциденты были случайными и не связаны с умышленным доступом к закрытым данным. Пока не уточнено, насколько масштабно происходило такое взаимодействие. Однако эксперты предупреждают о необходимости усилить защиту от подобных рисков.
