AI Overview від Google видає неточні та навіть небезпечні відповіді

Нова функція Google c (« Огляд від ШІ »), яка надає агреговані результати, складені штучним інтелектом, над деякими пошуковими видачами, схоже, видає неточні, а в деяких випадках і небезпечні результати.

Користувачі соціальних мереж швидко помітили, що ця функція, представлена на початку цього місяця, замінює звичайні результати пошуку та дає досить сумнівну відповідь. Наприклад, система, на частку якої припадає понад 90% ринку пошукових запитів, давала поради про те, як не додавати сир в піцу.

Але апетитні рецепти-це ще не ті шкідливі наслідки, до яких може привести штучний інтелект. За словами одного з користувачів The X, коли його попросили продезінфікувати пральну машину, Google запропонував потенційно смертельне рішення – використовувати іприт (хімічну отруйну речовину).

І якщо багато великих мовних моделей, включаючи OpenAI і Llama chat GPT, використовують Інтернет для отримання навчальних даних без дозволу, то огляд штучного інтелекту Google, схоже, займається повним плагіатом. За словами 1 Користувачів X, Google додав до рецепту смузі фразу “улюблена страва моєї дитини” та запозичив формулювання з веб-сайту, який опублікував подібний склад.

Google, який розробляє AI Overview у відповідь на Microsoft CoPilot та Open AI, стверджує, що це принесе користь невеликим сайтам, дозволяючи програмам отримувати доступ до результатів пошуку та охоплювати більшу кількість пошукових систем.

«Завдяки AI Overviews люди відвідують більше різноманітних сайтів, щоб отримати допомогу у вирішенні складніших питань», – йдеться в анонсі. “Ми бачимо, що посилання, включені в AI Overviews, отримують більше кліків, ніж якби сторінка з’являлася у вигляді звичайного веб-листингу за цим запитом”.

Критики побоюються, що результати, що генеруються штучним інтелектом, перешкоджатимуть переходу за посиланнями до постачальників інформації, яку Google отримує з джерел, що в кінцевому підсумку призведе до скорочення кількості публікацій, на які спирається AI Overview. News Media Alliance, організація, що представляє інтереси видавців, закликала до більш активних дій проти ШІ-моделей, які навчаються на контенті без дозволу.

«Компанії, які займаються розробкою штучного інтелекту, визнають цінність цього контенту, про що свідчать ринкові угоди і покладаються на якісний контент для навчання своїх систем. Необмежене використання ІІ-компаніями цінного контенту видавців, що триває без відповідної компенсації, є незаконним», – заявив президент і генеральний директор Альянсу Даніель Коффі в заяві про судовий позов проти OpenAI.

Під результатами, згенерованими штучним інтелектом, Google розміщує попередження «генеративний ШІ є експериментальним», але результати все одно є проблемою в епоху зростання залежності від контенту, згенерованого комп’ютером.

Минулого року Google заявила, що ШІ – це майбутнє пошуку. Але який у цьому сенс, якщо пошук буде ще дурнішим, ніж раніше?