МВД России обнаружило перенаправление ChatGPT на фейковые сайты
Популярный чат-бот, оснащённый искусственным интеллектом — ChatGPT, оказался способен перенаправлять пользователей на мошеннические веб-сайты.
Как сообщают в Управлении по организации борьбы с противоправным использованием информационно-коммуникационных технологий (УБК) МВД России, специалисты выявили случаи, когда алгоритмы искусственного интеллекта вели пользователей на поддельные интернет-ресурсы. Эти сайты предназначены для хищения личных данных и денежных средств.
В управлении уточнили, что мошеннические сайты, предлагающие товары и мебель, появлялись в рекомендациях, созданных искусственным интеллектом. Они воспроизводят брендовую символику, изображения и описания товаров фирм, недавно завершивших свою деятельность. Покупателям в некоторых случаях предоставляли скидки до 80%.
Киберполиция пояснила, что специалисты предполагают использование злоумышленниками метода "отравления данных". Эта методика включает в себя распространение в сети фальшивой информации с поддельными отзывами, автоматически созданными сообщениями для форумов и ложными данными для индексации. Такие действия искажают обработку и сортировку данных алгоритмами искусственного интеллекта.
Представители УБК отметили, что на данный момент мошеннические сайты удалены из поисковых систем.
Для повышения безопасности МВД рекомендует:
- проводить перекрёстную проверку данных и сравнивать информацию на различных поисковых платформах,
- искать её первоисточники.
В киберполиции также предостерегают, что алгоритмы искусственного интеллекта иногда могут выдавать устаревшие и неактуальные сведения.