Компания выдвинула опасения по поводу безопасности ИИ перед выходом на биржу
Компания Anthropic, готовящаяся к IPO, признала, что продвинутые системы искусственного интеллекта могут нанести угрозу существованию человечества. В числе возможных рисков указано использование самых мощных моделей для создания оружия массового поражения. Это подчеркивает важность строгого контроля и безопасности при разработке ИИ.
В своем заявлении Anthropic подчеркнула, что без надлежащих мер защиты ИИ может стать инструментом в руках недобросовестных лиц. Особое внимание уделено угрозам, связанным с утечкой информации и несанкционированным доступом к технологиям. Эксперты предупреждают, что без серьезной регуляции последствия могут быть катастрофическими.
Несмотря на риски, компания подчеркивает свою заинтересованность в развитии технологий с соблюдением этических норм. Anthropic намерена сотрудничать с регулирующими органами и научным сообществом для минимизации угроз. Важно, чтобы инновации не превзошли возможности контроля и ответственности.
