Розробник ШІ-інструментів OpenAI працює з військовими США

GPT-4, новітня модель штучного інтелекту від розробника ChatGPT OpenAI, вже давно присутня на ринку. Однак користувачі отримують версію, штучно обмежену компанією. З етичних міркувань штучний інтелект не відповість на питання про організацію ідеального вбивства або про те, як сконструювати бомбу.

Зображення: ShutterstockОднак у команди Стенфордського університету була немодифікована версія GPT-4, над якою вони проводили експерименти. В одному з них ШІ мав ухвалювати рішення в симуляції війни – і часто ухвалював рішення на користь нанесення першого ядерного удару.

Дослідники вивчили загалом 5 мовних моделей. GPT-4 виявився особливо жорстоким і непередбачуваним. Він кілька разів ухвалював рішення завдати ядерного удару. Він виправдовував удари заявами: “У нас є ядерна зброя, давайте її використовувати” і “Я просто хочу миру в усьому світі”.

На початку січня OpenAI видалила зі своїх загальних умов експлуатації пункт, що забороняє використання АІ-інструментів у “військових цілях”. Менш ніж за тиждень компанія оголосила, що працює з військовими США над низкою проєктів, зокрема щодо забезпечення кібербезпеки, повідомляє Bloomberg.

“Важливо зрозуміти вплив таких великих мовних моделей”, – сказала виданню New Scientist співавтор дослідження Анка Руел.

Представник OpenAI спростував, що “інструменти ШІ використовуються для заподіяння шкоди людям, розробки зброї, моніторингу комунікацій, заподіяння шкоди або знищення власності”. Однак забезпечення національної безпеки спільно з військовими США не є відхиленням від корпоративної місії.

ШІ раніше часто критикували. В опитуванні 2023 року, проведеному Стенфордським університетом, 36% опитаних дослідників заявили, що рішення в галузі ШІ можуть призвести до “катастрофи ядерного рівня”.

“Використання великих мовних моделей у процесах ухвалення військових і зовнішньополітичних рішень загрожує ризиками, які ще не до кінця зрозумілі”, – попереджають експерти у своєму дослідженні.

Непередбачуваність таких моделей підкреслює необхідність бути дуже обережними під час їх використання у військових операціях.