OpenAI повідомила про більш ніж двадцять кібератак, створених за допомогою їхньої генеративної моделі штучного інтелекту ChatGPT. У звіті підтверджується, що ШІ використовувався для цільових фішингових атак, розробки та налагодження шкідливого ПЗ, а також інших зловмисних дій.
Першу з двох підтверджених атак було зареєстровано аналітиками Cisco Talos у листопаді 2024 року. Китайські хакери використовували ChatGPT для проведення фішингової кампанії під назвою SweetSpecter. Атака включала відправку ZIP-файлу зі шкідливим вмістом; при його завантаженні та відкритті на системі користувача запускався ланцюжок дій для зараження системи. OpenAI виявила, що «SweetSpecter» був створений за допомогою декількох облікових записів, що використовують ChatGPT для розробки скриптів та виявлення вразливостей за допомогою інструментів на основі великих мовних моделей.
Друга кібератака з використанням ШІ була проведена іранським угрупуванням під назвою « CyberAv3ngers » . Хакери використовували ChatGPT для експлуатації вразливостей та крадіжки паролів користувачів з комп’ютерів на базі MacOS. Третя атака, очолювана іншою іранською «Storm-0817», була спрямована на розробку шкідливого програмного забезпечення для Android за допомогою ChatGPT. Їх вірус збирав списки контактів, витягував журнали дзвінків та історію браузера, отримував точне розташування пристрою та мав доступ до файлів на заражених пристроях.
Хоча всі ці атаки використовували існуючі методи розробки шкідливого ПЗ, у звіті зазначається, що немає вказівок на те, що ChatGPT створив нові програми. Тим не менш, ці випадки демонструють, наскільки легко зловмисники можуть обдурити генеративні сервіси ШІ для створення інструментів для атак.
OpenAI заявила, що продовжить удосконалювати свій ШІ, щоб запобігти використанню подібних методів. В даний час компанія працює з внутрішніми командами з безпеки та обіцяє продовжувати ділитися своїми висновками з колегами з індустрії та дослідницькою спільнотою, щоб запобігти повторенню подібних ситуацій.
Компанія також наголосила на важливості того, щоб інші великі гравці з власними платформами генеративного ШІ впроваджували заходи захисту для запобігання подібним атакам. Усвідомлюючи складність запобігання таким інцидентам, компанії мають впроваджувати превентивні заходи, а не усувати наслідки після факту.
Перші бездротові навушники AirPods були випущені у 2016 році. З того часу Apple випустила ще…
Oppo представила в Китаї новий смартфон K12 Plus, орієнтований на тривалу автономну роботу. Пристрій оснащений…
Легендарні розумні окуляри Apple, про які давно ходять чутки, все ще можуть побачити світло, і…
Xiaomi вже працює над Smart Band 9 Pro, новою версією свого популярного фітнес-трекера. Неофіційні рендери,…
Apple готується до впровадження двох нових функцій Apple Intelligence у майбутній бета-версії iOS 18.2, як…
Xiaomi ще не зробила публічного оголошення про нові смартфони, проте недавні витоки надали можливість побачити…