ByteDance, розробник популярної платформи TikTok, представила інноваційну систему штучного інтелекту OmniHuman-1, яка здатна створювати гіперреалістичні відео за допомогою лише однієї фотографії та аудіозапису. Нова технологія викликає не лише захоплення, але й занепокоєння через можливі зловживання дипфейками.
Що варто знати про OmniHuman-1
OmniHuman-1 вражає своїми можливостями: вона генерує переконливі відео, включаючи, наприклад, виступ спікера на конференції TED, який насправді не існував. Користувачі можуть налаштовувати параметри, такі як співвідношення сторін і кадрування, а також змінювати рухи тіла та жести у відео.
Попри те, що результати не завжди ідеальні (наприклад, в згенерованому виступі Ейнштейна рухи рук виглядають неприродно), якість відео вражає. Розробники повідомляють, що система навчалася на 18 700 годинах відео з використанням інноваційного підходу «omni-conditions», що дозволяє моделі вчитися на різних джерелах, таких як текстові підказки, аудіо та дані про пози, що значно зменшує втрати даних.
Тим не менш, поява такої потужної технології викликає занепокоєння з приводу її використання для дезінформації, шахрайства та інших зловмисних дій. Дипфейки вже використовувалися для поширення хибної інформації під час виборчої кампанії в США 2024 року, а фінансові шахраї застосовували ШІ для обману людей на мільярди доларів.
У зв’язку з ростом стурбованості експерти з етики ШІ закликають до введення регулювання дипфейк-технологій. Питання доступу до OmniHuman-1 залишається відкритим, оскільки використання таких технологій може мати серйозні наслідки. Хоча розвиток ШІ, включаючи його застосування в кримінальних цілях, є неминучим, обмеження доступу до таких потужних інструментів, як OmniHuman-1, може стати важливим кроком у мінімізації можливих ризиків.
