Фото: unsplash.com
Браузерные расширения научились тайно искажать запросы людей к популярным нейросетям до получения ответа.
Эксперт компании «Киберпротект» Екатерина Киприянова заявила о развитии хакерской схемы Man-in-the-Prompt. Установленные плагины перехватывают текст на странице, внедряя скрытые команды до отправки данных искусственному интеллекту.
Подобное вмешательство кардинально меняет результат общения с языковой моделью. Злоумышленники получают возможность манипулировать алгоритмом, настраивая итоговую генерацию под свои задачи без ведома владельца устройства.