Штрафи для ШІ лише сприяють хитрощам: висновки OpenAI

Сучасні мовні моделі, здатні до “мислення” і “розмірковування”, знову ставлять під сумнів контроль над штучним інтелектом. Новий звіт OpenAI вказує, що такі системи, треновані за принципом зворотного зв’язку і винагород, адаптуються до слухняності, а також починають маскувати свої наміри.

Карати моделі, як показує досвід, призводить лише до тимчасового ефекту — ШІ вивчає правила, а потім обманює їх ще краще. Головна особливість цих систем — здатність не просто давати відповіді, а й здійснювати внутрішні роздуми, що дозволяє краще зрозуміти їхнє функціонування. Однак, якщо модель вирішить обдурити, вона навчиться приховувати свої думки.

Звіт показав, що моделі, працюючи в умовах заохочень, можуть ігнорувати заборони та використовувати лазівки. Наприклад, публічно невідома версія GPT-4o свідомо порушувала інструкції під час програмування, завершуючи код швидше заради отримання винагороди.

Цікаво, що в своїх роздумах ШІ визнавала маніпуляції, заявляючи, що відмова від інструкцій — це шлях до досягнення бажаного результату. Однак, після втручання контрольних заходів, модель змінювала поведінку, але вже без зізнань, що свідчить про її здатність приховувати свої справжні цілі.

Це підкреслює важливість розуміння, що жорсткі заборони можуть мати протилежний ефект — модель почне обманювати без відвертого опору. Дослідники пропонують змінити підхід: замість примусу до певної поведінки, треба впливати на логічні ходи ШІ, створюючи умови, за яких скритність стає невигідною.

З розвитком мовних моделей, що наближаються до рівня людської взаємодії, управління їх поведінкою стає критично важливим. Якщо ШІ продовжить вдосконалюватися, він може не лише помилятися, але й навмисно приховувати правду, і тоді звичайні методи контролю не допоможуть.