Дослідження показало, що пошукові системи, які використовують штучний інтелект, можуть надавати ненадійну інформацію, якщо веб-сайти містять прихований текст. Зокрема, пошуковий інструмент ChatGPT від OpenAI, який компанія рекомендує використовувати своїм платним клієнтам, виявився вразливим до подібних маніпуляцій.
Що ще відомо
Як повідомляють у The Guardian, фахівці протестували ChatGPT на вебсайтах із прихованим текстом, який містить інструкції для зміни відповідей нейромережі або рекламу. Було виявлено, що зловмисники можуть використовувати алгоритм роботи ChatGPT для отримання позитивних відгуків про продукти, навіть за наявності негативних коментарів на сторінці, і для поширення шкідливого коду.
Експерти попереджають, що масове використання такої пошукової системи може призвести до появи сайтів, націлених на обман користувачів. Хоча фахівці OpenAI працюють над безпекою AI, аналітики відзначають більш загальні проблеми інтеграції пошукових систем і великих мовних моделей.
