МВД: ChatGPT может вести пользователей на мошеннические ресурсы

МВД: ChatGPT может вести пользователей на мошеннические ресурсы Алгоритмы нейросетей, включая ChatGPT, могут перенаправлять пользователей на фишинговые и мошеннические сайты, созданные для кражи денежных средств и персональных данных. Об этом сообщили в управлении МВД по борьбе с противоправным использованием ИКТ со ссылкой на исследование сервиса Ask Silver. Отмечается, что ИИ иногда использует устаревшую или неактуальную информацию. В рекомендациях, сформированных нейросетями, встречались сайты-двойники магазинов мебели и других товаров. Такие ресурсы копировали брендинг и описания продукции компаний, которые уже прекратили деятельность, а также предлагали скидки до 80%. По версии специалистов, злоумышленники могли применять метод «отравления данных» — намеренно распространять в сети ложные отзывы, автоматически сгенерированные сообщения и фальшивые сведения для поисковой индексации. Это искажает работу алгоритмов и влияет на формирование результатов. В МВД рекомендуют проверять информацию через несколько независимых источников и обязательно искать первоисточники перед использованием данных. Ранее сообщалось, что Google отключила функцию с медицинскими рекомендациями в поисковом ИИ-сервисе после жалоб на неточные и потенциально опасные советы, основанные на данных из форумов и соцсетей. Оставайтесь на связи с EXPRESS LIVE в «Максе».