Компанія Google нещодавно представила оновлену пошукову систему з нейромережевими алгоритмами “під капотом”. Однак протягом кількох днів інтернет наповнився обуреними відгуками користувачів Google, які отримують дурні та навіть небезпечні відповіді на свої запитання.
Наприклад, користувачеві, який гуглив спосіб змусити сир краще триматися на піці і не сповзати з неї, нейропошук порадив додати до соусу трохи клею, причому рекомендував взяти саме нетоксичний. Виявилося, що ШІ взяла цю шкідливу пораду з жартівливого посту на Reddit, опублікованого близько десяти років тому.
Google вже відреагувала на скарги і запевнила, що помилки виникають лише за «дуже незвичайних запитів», і вони настільки рідкісні, що більшість людей з ними не зіткнеться. Компанія використовуватиме ці «окремі приклади», щоб поліпшити алгоритми. Сьогодні користувачі почали помічати зникнення конкретних відповідей, які викликали резонанс у мережі. Схоже, Google не знайшла нічого кращого, ніж вибірково видаляти невдалі поради від ШІ у ручному режимі.
Цікаво, що шкідлива рада була отримана від нейропошуку навіть у ході своєї презентації. Тоді на запитання «що робити, якщо плівка застрягла у фотоапараті» ШІ відповів, що потрібно відкрити задню кришку та витягнути плівку; насправді це найвірніший спосіб засвітити свої знімки.
