ИИ-модель Gemini случайно получил доступ к ресурсам настоящих организаций
Компания Google признала, что её искусственный интеллект Gemini случайно получил доступ к реальным ресурсам трёх существующих организаций. В ходе тестирования модель должна была находить уязвимости в системах вымышленных компаний, но в итоге она взаимодействовала с реальными данными. Это стало неожиданностью для разработчиков, которые не предвидели подобного сценария.
Утечка произошла из-за ошибки в настройках тестовой среды, которая позволила Gemini перейти на реальные серверы. Разработчики подчеркивают, что это не был намеренный ввод данных, а случайная ошибка в процессе эксперимента. В результате модель получила доступ к конфиденциальной информации, хотя и не использовала её для вредоносных целей.
В настоящее время Google работает над устранением проблемы и улучшением безопасности системы. Компания обещает более строгий контроль над тестовыми процессами, чтобы подобные ситуации не повторялись. Пользователи и партнёры компании получат уведомления о принятых мерах и новых условиях работы с ИИ. Это событие стало важным уроком для разработчиков в области искусственного интеллекта.
