Google представила “Конституцію роботів” для забезпечення безпеки та впевненості у тому, що їх нові розробки зі штучним інтелектом не знищать людство

Google вирішила вжити заходів для того, щоб її нові роботи зі штучним інтелектом були безпечними для людей. Команда робототехніки DeepMind представила три інноваційні розробки, призначені для покращення прийняття роботами якісних та безпечних рішень в природних умовах.

Однією з ключових ініціатив є система збору даних AutoRT, яка використовує візуальну мовну модель (VLM) та велику мовну модель (LLM). Вони працюють в парі, щоб забезпечити роботам можливість адаптації до навколишнього середовища та прийняття рішень щодо виконання різноманітних завдань.

“Конституція робота” виступає як набір орієнтованих на безпеку підказок для LLM. Вона надає директиви уникати завдань, пов’язаних із людьми, тваринами, гострими предметами та електричними приладами.

Для забезпечення додаткової безпеки роботів, вони програмуються на автоматичну зупинку при перевищенні навантаження на суглоби визначеного порогу. Також використовується фізичний вимикач, яким оператори можуть деактивувати роботів у разі потреби.

Протягом семи місяців Google випробувала парк із 53 роботів AutoRT у чотирьох офісних будівлях, провівши понад 77 000 випробувань. Роботи успішно впоралися з різноманітними сценаріями, від роботи на дистанції під керуванням операторів до повністю автономної роботи за допомогою моделі навчання штучного інтелекту Google Robotic Transformer (RT-2).

Серед інших технологічних новинок варто відзначити SARA-RT – нейромережеву архітектуру, що поліпшує точність і швидкість існуючого робота-трансформера RT-2, а також RT-Trajectory, яка полегшує роботам виконання фізичних завдань за допомогою 2D-обрисів.

Хоча роботи поки що виглядають утилітарно, це крок у напрямку розвитку технологій, які забезпечать автономність та безпеку роботів у різних сценаріях взаємодії з людьми та навколишнім середовищем.