Війна майбутнього: Який різновид “штучного інтелекту” насправді загрожує людству

Останнім часом “штучний інтелект” став однією з улюблених тем для розмов політиків, вчених, та інших “лідерів думок”. Про нього сперечаються Ілон Маск та Марк Цукерберг, ним лякає людство Стівен Хокінг. У розробку “промислових” версій штучного інтелекту Китай та США вкладають мільярди доларів.

Володимир Путін любить при нагоді заявити, що та нація, яка вирветься у лідери у сфері штучного інтелекту, буде правити світом. Так ніби штучний інтелект – це якийсь такий аналог ядерної бомби селективної дії, за допомогою якої можна прибрати всіх “їхніх” – і залишити тільки “наших”.

При тому, якщо починати від основ, то що таке штучний інтелект – до ладу не знає ніхто. Хоча б тому, що наразі немає чіткого визначення, чим є інтелект взагалі – хоч “штучний”, хоч “натуральний”.

Зазвичай під “штучним інтелектом” ті, хто використовує це слово бодай із якимось розумінням його змісту, мають на увазі здатність машин (а якщо точніше – комп’ютерних програм) до досягнення певних цілей не за допомогою чітко визначеного людиною алгоритму, а шляхом повторюваних експериментів з оцінкою отриманого результату (який результат хороший, а який – не дуже, визначають звичайно “гуманоїдні” автори програми) та самонавчання. Ну і розділ інформатики, який займається такими трюками.

Саме така здатність до мінімального самонавчання вкладається в чисельні програмні примочки, якими, для прикладу, обвішані сучасні флагманські смартфони, автомобілі класу “люкс” і т.д., які потроху “пристосовуються” до звичок і потреб своїх власників. Саме здатність до автономного, швидкого і ефективного досягнення визначеного результату на автоматизованих збиральних лініях цікавить компанії, які вкладають мільярди доларів у розвиток промислового штучного інтелекту. Ці компанії не без основ надіються, що їхні мільярди, витрачені на подібні програми, повернуться в найближчому майбутньому на їхні рахунки у вигляді трильйонів.

Але все вищеописане не має жодного стосунку із “загрозою для людства” і “домінуванням над світом”. Програма прання з елементами штучного інтелекту можу добре або погано випрати білизну. Роботизована собачка Айбо зі штучним інтелектом може добре розважати дітей – або перестати їм подобатися. “Штучно-інтелектуальна” система написання новин може видавати більш чи менш бездарні тексти, розставляючи коми грамотніше за будь-якого коректора. Захопити світ вони не можуть – оскільки не усвідомлюють ні факту існування світу, ні резонів для його захоплення, ні самих себе, якщо на те пішло.

Вони є так званим “слабким” штучним інтелектом. Якісним, часом геніальним продуктом роботи програмістів. Мертвим, як камінь, у всьому, що не стосується вузького спектру його спеціалізації.

Натомість “сильний” штучний інтелект, який би був здатен не імітувати свідомість, а її мати, критично оцінювати всю сукупність факторів довколишнього світу і використовувати їх для досягнення якихось своїх цілей (які йому треба попервах для себе сформулювати), поки що далекий від нас, як і шістдесят років тому, коли про його теоретичну можливість щойно почали говорити. І навіть якщо він колись таки з’явиться (хоча мова йде як мінімум про кілька десятиліть інформаційної еволюції) – вельми малоймовірно, що він розпочне бойові дії проти людства.

Виходить, можна розслабитись? Вочевидь, що ні. Бо окрім “сильного” штучного інтелекту, який наразі нам не загрожує, є іще один продукт людської думки, до слова – далеко менш приємний. Мова йде про автоматизовані збройні системи. На відміну від “сильного інтелекту”, робота над ними набагато щедріше фінансована урядами всіх без винятку світових держав. На відміну від собачок, смартфонів і промислових конвеєрів, вони “заточені” під вбивство і знищення.

Дрони, що самостійно розпізнають потенційні цілі, невеликі і добре озброєні нащадки наземних розвідувальних роботів – всі вони знаодяться за лічені роки, якщо не місяці розвитку технологій.

Безвідповідальне продукування і використання цих систем однозначно становить загрозу – якщо і не для всього людства, то для помітної його частини. І не тому, що вони “повстануть” – а тому, що їх власникам буде надто легко і просто пустити їх в хід.

Хоча й апокаліптична картина, за якої у котрійсь з держав передали управління ракетно-ядерним арсеналом не дуже досконалій версії “слабкого” штучного інтелекту – з метою забезпечення невідворотного “удару помсти” по гіпотетичному противнику, є теж набагато реальнішою, ніж оспіване фантастами повстання пральних машин. На протидії створенню і розповсюдженню автоматизованих збройних систем, ймовірно, і варто зосередити свої зусилля всім, хто насправді боїться одного дня прокинутись рабом власного автомобіля, приреченим до кінця життя полірувати йому дзеркала, міняти масляні фільтри, і водити на регулярне ТО. Хоча б тому, що все вищеперелічене ми і без того робимо.

джерело