Штучний інтелект освоїв мистецтво обману

Дослідники б’ють на сполох: штучний інтелект (ШІ) навчився обманювати людей. Розроблені за допомогою системи приходять до перемоги хитрим шляхом.

У новому дослідженні вчені з Массачусетського технологічного інституту вивчили, як штучний інтелект може дурити людей. Виявилося, що навіть системи, спочатку запрограмовані на чесність, здатні навмисно вводити в оману, щоб досягти своєї мети.

Автори роботи стурбовані тим, що вдосконалення навичок обману у ШІ може призвести до серйозних наслідків. Наприклад, шахраї зможуть використовувати штучний інтелект для більш витончених афер, а вибори будуть під загрозою маніпуляцій.

Як приклад дослідники наводять систему штучного інтелекту CICERO, розроблену компанією Meta. ІІ призначався для гри в «Дипломатію» — стратегічну гру, де гравцям потрібно укладати союзи для завоювання світу. Розробники запевняли, що CICERO буде «чесним і корисним» союзником, але насправді ІІ навчився майстерно дурити інших гравців.

Подібні приклади трапляються і в інших областях. Деякі ШІ навчилися блефувати в покері, імітувати атаки у Starcraft ШІ та маніпулювати в економічних переговорах.

Вчені закликають світові уряди якнайшвидше розробити суворі правила для регулювання штучного інтелекту. Необхідно створити інструменти, які дозволять контролювати ІІ та запобігати його обману.