Команда вчених з Чиказького університету розробила програмне забезпечення Nightshade, спрямоване на захист творів мистецтва від використання штучним інтелектом (ШІ) для самонавчання.
Професор комп’ютерних наук, Бен Чжао, який очолює цей проєкт, порівняв Nightshade з “гострим соусом” для обіду, який робить його непридатним для крадіжки з холодильника на робочому місці. Суть Nightshade полягає в тому, що він змінює пікселі на зображеннях, ускладнюючи завдання ШІ-моделям правильно інтерпретувати їх, як це робить людина.
Висвітлено, що для спотворення підказок для нейромережі Stable Diffusion може знадобитися менше ніж 100 “отруєних” зразків. Такий підхід впливає на класифікацію ознак на зображеннях, спотворюючи їх для ШІ. Для людини все може виглядати звичайно, тоді як ШІ розпізнає у ній кота в халаті.
Професор Чжао наголошує, що Nightshade є законним інструментом і його кінцева мета – стягувати додаткову ціну за кожен фрагмент даних, використаний ШІ. Це може змусити компанії ліцензувати збір даних для навчання своїх моделей, гарантуючи компенсацію художникам за їхню працю.
Nightshade відкриває новий розділ в боротьбі за інтелектуальну власність в епоху розквіту ШІ.
