Дослідники б’ють на сполох: штучний інтелект (ШІ) навчився обманювати людей. Розроблені за допомогою системи приходять до перемоги хитрим шляхом.
У новому дослідженні вчені з Массачусетського технологічного інституту вивчили, як штучний інтелект може дурити людей. Виявилося, що навіть системи, спочатку запрограмовані на чесність, здатні навмисно вводити в оману, щоб досягти своєї мети.
Автори роботи стурбовані тим, що вдосконалення навичок обману у ШІ може призвести до серйозних наслідків. Наприклад, шахраї зможуть використовувати штучний інтелект для більш витончених афер, а вибори будуть під загрозою маніпуляцій.
Як приклад дослідники наводять систему штучного інтелекту CICERO, розроблену компанією Meta. ІІ призначався для гри в «Дипломатію» — стратегічну гру, де гравцям потрібно укладати союзи для завоювання світу. Розробники запевняли, що CICERO буде «чесним і корисним» союзником, але насправді ІІ навчився майстерно дурити інших гравців.
Подібні приклади трапляються і в інших областях. Деякі ШІ навчилися блефувати в покері, імітувати атаки у Starcraft ШІ та маніпулювати в економічних переговорах.
Вчені закликають світові уряди якнайшвидше розробити суворі правила для регулювання штучного інтелекту. Необхідно створити інструменти, які дозволять контролювати ІІ та запобігати його обману.
