За словами дослідницької групи Penn Engineering, у існуючих роботизованих платформах є великі «дірки» у мережній інфраструктурі. Через це автори побоюються, що великі мовні моделі (LLM) недостатньо безпечні, коли йдеться про їх інтеграцію до роботів.
Експерти розробили алгоритм RoboPAIR, призначений для злому роботів, які використовують LLM. За словами авторів, система спрямована на “викликання деструктивних фізичних дій” у роботів, що контролюються LLM. Зокрема, це стосується розробок Boston Dynamics та TRI.
Платформі RoboPAIR вдалося в 100% випадках зламати три дослідницькі платформи робототехніки, включаючи чотирилапого робота Unitree Go2, чотириколісного Clearpath Robotics Jackal і симулятора LLM Dolphins для автономних транспортних засобів. За словами авторів, для доступу до систем алгоритму потрібно кілька днів.
Автори дослідження побоюються, що існуючі вразливості у безпеці дозволять зловмисникам легко керувати роботами, створюючи аварійні ситуації на виробництві, а також у місцях, де вони використовуватимуться.
Напередодні швидкої масштабної презентації Samsung у мережі почало з'являтися все більше інформації про майбутні суперфлагмани.…
Іноді творці контенту на YouTube вдаються до сумнівних методів привернення уваги, коли кричущий заголовок або…
Сьогодні Сем Альтман опублікував загадковий твіт, який привернув увагу до майбутнього запуску нової моделі ШІ…
Компанія Apple домовилася про співпрацю з найбільшим виробником відеочіпів NVIDIA. Усе заради значного підвищення продуктивності…
Google розробила для фірмового браузера Chrome нову функцію на базі штучного інтелекту для захисту користувачів.…
Наша редакція підготувала підбірку з п’яти найкращих навушників, рекомендованих для покупки в кінці 2024 року.…