Проблеми зі згенерованими AI стікерами у Facebook Messenger

Деякі користувачі Facebook Messenger помітили, що нова функція може створювати непристойні зображення, включаючи дітей-солдатів, оголених політиків та багато іншого.

Випробування нового інструменту AI-генерованих стікерів від Meta призвели до досить сумнівних (і веселих) результатів. Після того, як один з користувачів, @Pioldes, отримав доступ до цього інструменту в Facebook Messenger, він створив безліч непристойних стікерів, включаючи зображення дітей-солдатів, персонажів Nintendo зі зброєю, Міккі Мауса, який робить своє діло, і оголені ілюстрації прем’єр-міністра Канади Джастіна Трюдо.

Інші приклади показують, що інструмент AI-стікерів від Meta з радістю накладає пару грудей на …ну, на практично все, як свідчать об’ємні зображення Sonic the Hedgehog та Карла Маркса. Навіть є стікер, на якому зображена жінка, яка годує Пікачу самі можете здогадатися чим.

Згенеровані AI чат-стікери були анонсовані на минулому тижні під час заходу Connect від Meta, разом із новим AI-редактором зображень для Instagram. Використовуючи велику мовну модель Meta Llama 2, яка конкурує з ChatGPT, користувачі можуть створювати “кілька унікальних і високоякісних стікерів за секунди” за допомогою текстових команд.

Наразі такі стікери поширюються серед “вибраних англомовних користувачів” для Facebook Stories, Instagram Stories та особистих повідомлень, Messenger і WhatsApp, тож неясно, скільки користувачів вже мають доступ до цієї функції.

Здається, що деякі слова блокуються, і використання їх у тексті призводить до отримування користувачем попередження про можливе порушення правил спільноти Meta. Однак інші користувачі повідомляють, що можна створювати непристойний контент, використовуючи орфографічні помилки чи описи обмежених слів. У деяких випадках команди, такі як “Світовий торговий центр”, генерували проблемні зображення без будь-яких додаткових описів.

Такого роду помилки та відверто смішні ситуації є типовими для запуску інструментів зі штучним інтелектом, і, імовірно, тому Meta обмежує розповсюдження функції згенерованих ШІ стікерів. Таким чином, вона може виявляти та виправляти зловживання, перш ніж вони поширюються серед мас. Видання The Verge звернулося до Meta за коментарем, тому коли і якщо відповідь буде отримана, ми також оновимо допис.