За словами дослідницької групи Penn Engineering, у існуючих роботизованих платформах є великі «дірки» у мережній інфраструктурі. Через це автори побоюються, що великі мовні моделі (LLM) недостатньо безпечні, коли йдеться про їх інтеграцію до роботів.
Експерти розробили алгоритм RoboPAIR, призначений для злому роботів, які використовують LLM. За словами авторів, система спрямована на “викликання деструктивних фізичних дій” у роботів, що контролюються LLM. Зокрема, це стосується розробок Boston Dynamics та TRI.
Платформі RoboPAIR вдалося в 100% випадках зламати три дослідницькі платформи робототехніки, включаючи чотирилапого робота Unitree Go2, чотириколісного Clearpath Robotics Jackal і симулятора LLM Dolphins для автономних транспортних засобів. За словами авторів, для доступу до систем алгоритму потрібно кілька днів.
Автори дослідження побоюються, що існуючі вразливості у безпеці дозволять зловмисникам легко керувати роботами, створюючи аварійні ситуації на виробництві, а також у місцях, де вони використовуватимуться.
Компанія Apple славиться тривалою підтримкою своїх продуктів, але рано чи пізно виробнику все ж таки…
У Telegram можна не тільки купити підписку Premium, а й подарувати її. Цим уже почали…
Google представляє список найкращих додатків, ігор та книг, які були відзначені у 2024 році. Цей…
Відомо, що в Києві неодноразово повідомляли про роботу над власною ракетною програмою і перші успіхи…
Деякі користувачі iPhone після оновлення до iOS 18 зіткнулися з постійною, але нечастою помилкою в…
Як повідомляє Bloomberg, на Google чиниться тиск з метою переконати компанію продати підрозділ браузера Chrome.…