ChatGPT може зробити нас тупішим, і ось чому

Що таке ChatGPT? 

Це штучний інтелект, створений на основі нейронної мережі GPT (Generative Pre-trained Transformer), навченої на величезній кількості текстових даних. ChatGPT може підтримувати розмови природною мовою та відповідати на широкий спектр питань, використовуючи свої знання та досвід, отримані під час навчання. Його розробником є ​​компанія OpenAI.

Bard, у свою чергу, це назва мовної моделі, розробленої Google. Ця модель використовує глибоке навчання для генерації тексту природною мовою, враховуючи статті, новини та інше.

Що їх поєднує? І ChatGPT, і Bard використовують просунуті алгоритми обробки природної мови та нейронні мережі для розуміння контексту та створення зв’язкових відповідей на ці запитання або для генерації тексту на основі цього контексту.

Штучний інтелект і нейронні мережі в різних проявах існують давно і займаються важливими завданнями цілком ефективно. Просто їхня робота малопомітна неспеціалістам, звичайним користувачам, яким головне — щоб працювало. ChatGPT (використовуватимемо за текстом цей ШІ як збірний образ — саме він першим наробив шуму) забрався на рівень вище, опинившись на очах у всіх, та ще й дозволяє тестувати його чи не кожному охочому. І він менш спеціалізований, ніж Midjourney, DALL-E (від тієї ж OpenAI) чи Stable Diffusion.

Які основні переваги ChatGPT? З обивательської точки зору він у рази розумніший за будь-який чобот з вікна техпідтримки на мільйонах сайтів. Адже ChatGPT не тільки відповідає на запитання, а й утримує в розумі контекст, доповнюючи, уточнюючи і іноді навіть визнаючи свої помилки (Вибачте, насправді все ось так).

Він розуміє ту природну мову, якою розмовляють люди. Тобто йому не потрібно запит на зразок «реферат скачати біологія маточки-тичинки», його можна попросити «Напиши реферат обсягом 700 слів про розмноження квітів» або «Напиши науковий реферат обсягом 700 слів про розмноження квітів» — і це будуть два різні тексти, причому не повторюваних, навіть якщо запит повторити (хоча деякі фрази та звороти кочують з тексту до тексту). Це чергова перевага: новий ШІ не є звичайним генератором, який створює якусь подобу «читабельного» контенту, він справді осмислений і цікавий.

Більше того, ChatGPT розуміє гнучкі та багаторівневі інструкції на кшталт «Напиши вірш у стилі Тараса Шевченка». Вийшло, звичайно, так собі:

Слабкий бік цього ШІ, як і будь-якого іншого, — помилки. Західну пресу в першу чергу хвилюють проблеми сексизму, расизму, упередженості та подібних негативних феноменів, і розробники ChatGPT визнають, що уникнути цього поки що не вдалося (про що є попередження на сторінці бота). Але важливим є й те, що ІІ не знає емоцій, переконань, у нього немає недовіри та бажання перевіряти — він використовує доступну йому інформацію «as is», компілюючи її та дотримуючись правил мови.

Нещодавно конкурент ChatGPT – Bard – у своєму рекламному ролику помилково стверджував, що телескоп Джеймса Вебба першим сфотографував планети та екзопланети за межами Сонячної системи, чим спровокував падіння вартості акцій Google (насправді фото було зроблено телескопом VLT). Дурниця? Падіння вартості акцій каже, що це не так.

ChatGPT своєю чергою заявляв, що розробником Bard є OpenAI. Після уточнення “Ти впевнений?” ІІ вибачився і виправився. Однак, щоб поставити правильне питання, потрібно знати, де помилка. Технічно підкована аудиторія ставила ChatGPT каверзні питання – наприклад, про модель узгодженості, з додаванням завдання порівняти специфіку архітектур x86 та Arm.

Виявилося, що ШІ з розумним виглядом може нести дурницю, що суперечить, проте людині необізнаній все здасться правильним. Як пишуть у коментарях, у такому вигляді ChatGPT цілком може замінити «інтернет-експертів», спиратися на думку яких не можна.

Є й інші приклади з різних сфер, коли ШІ не справляється зі складними та довгими завданнями, перетворюючи все на кашу: це стосується математики, перекладів, переказів тощо.

Отже, хоч ChatGPT і може розуміти широкий діапазон тематик та завдань, він не завжди може правильно зрозуміти контекст питання чи висловлювання — і це призводить до помилок. Крім того, ШІ може давати неточні відповіді, особливо в складних та неоднозначних ситуаціях: до цього призводять помилки в алгоритмі обробки природної мови або нестача навчальних даних.

Все це відкриває дорогу маніпуляціям (на зразок того, як сеошники маніпулюють алгоритмами пошуку) у випадку, якщо система продовжує навчання, отримуючи дані ззовні без кропіткої перевірки. З цієї причини сам ChatGPT вказує на можливість його використання для поширення дезінформації.

Проте ChatGPT використовують (частково) для написання рефератів, дипломів і навіть текстів виступів президентів та конгресменів. Виходить цілком науково і грамотно (принаймні англійською мовою), якщо бачити в ІІ інструмент: зварювальний апарат в руках зварювальника може робити неймовірні речі.

ChatGPT як «Вікіпедія» — у ній також повно інформації, але довіряти їй не можна. В іншому випадку можна забити голову невірними фактами. До того ж інтернет-енциклопедія вбиває бажання шукати і вивчати нове (адже все є в інтернеті), а ChatGPT зводить таку тенденцію у ступінь, спрощуючи помилки шлях до мас.

В OpenAI, начебто прислухаючись до благань представників освіти та наукової спільноти, нещодавно випустили систему перевірки AI Text Classifier, яка повинна виявляти ознаки діяльності ШІ в текстах, що публікуються. Однак вона виявилася не всесильною, а ефективність додатково знизилася, коли ChatGPT попросили згенерувати текст так, щоб обійти детектор (студенти можуть озвучити таке ж прохання). Крім того, вважають експерти, AI Text Classifier (як від OpenAI, так і аналоги) та ChatGPT займуться взаємним навчанням, що ускладнить пошук підробок. Зросте і кількість помилкових спрацьовувань — постраждають чесні студенти та науковці.

У той же час ChatGPT, мабуть, впорається із забезпеченням техпідтримки, знайде місце в освітніх системах, сфері фінансів, зможе зайнятися обробкою запитів та консультаціями щодо послуг та товарів. Тобто буде затребуваний в областях, які не потребують креативності та фантазії. Але головне — пошук (хоча іноді у відповідь на прості запити ШІ городить таке, що очі в’януть).

Microsoft і Alphabet тому й боротимуться за користувачів: у софтверної корпорації з’явився реальний шанс зробити Bing кращим, забравши частину аудиторії у пошукового гіганта — саме вона генерує значну частину виручки компанії. А користувачам доведеться подолати багаторічну звичку користуватися Google.