Чому функція штучного інтелекту Recall у Windows небезпечна

Минулого місяця компанія Microsoft оголосила про швидкий випуск комп’ютерів Copilot+ з інтегрованим програмним та апаратним забезпеченням для використання ШІ. Однією з функцій, про яку розповіла Microsoft, є Recall – інструмент для регулярного створення знімків вмісту ПК, що допомагає користувачам знаходити все, що вони бачили або робили на своїй машині.

Як з’ясувалося, Recall може стати справжнім кошмаром безпеки для користувачів Windows. Експерт Кевін Бомонт розповів , що йому вдалося автоматизувати програму, яка надає текстові дані про все, що переглядав користувач, незважаючи на заяви Microsoft про те, що інформація Recall не може бути вилучена дистанційно.

Бомонт стверджує, що Recall – це “по суті, викрадач інформації”, який включений у Windows за умовчанням, і що він “відкине кібербезпеку на десятиліття тому, надавши кіберзлочинцям широкі можливості”. За допомогою Recall хакери можуть за лічені секунди перелопати «все, що ви коли-небудь переглядали», тому користувачам слід готуватися до «суперзломів із застосуванням штучного інтелекту».

Microsoft описує Recall як функцію, що дозволяє шукати необхідний контент у часі. Функція Recall, що працює на основі штучного інтелекту, робить знімки кожні п’ять секунд, коли вміст екрана відрізняється від попереднього знімка, і зберігає їх у часовій шкалі, а програмне забезпечення на основі штучного інтелекту використовує розпізнавання тексту (OCR), щоб зробити текст на знімках придатним пошуку.

Microsoft стверджує, що знімки зберігаються локально та аналізуються на пристрої, що має зробити їх безпечними, але дані OCR зберігаються в базі даних SQLite, до якої можуть отримати доступ хакери, що проникли на ПК за допомогою шкідливого програмного забезпечення.

За словами Бомонта, троян infostealer може бути легко модифіковані для забезпечення підтримки Recall, а дані з цієї функції можуть бути доступні віддалено. Microsoft «намагалася зробити купу речей» для підвищення безпеки, але в результаті «нічого з цього не працює належним чином у реальному світі». У базі даних, до якої теоретично можуть отримати доступ зловмисники, міститься абсолютно все, що бачив користувач, наприклад текстові повідомлення та паролі, кожна взаємодія з комп’ютером та всі відвідувані веб-сайти (за винятком Microsoft Edge у приватному режимі).

Бомонт не розкрив повних технічних деталей того, як він автоматизував витік даних з БД Recall, і поки не хоче публікувати докладних даних, тому що чекає від Microsoft моменту, коли вона зможе щось зробити. Бомонт рекомендує Microsoft поки відмовитися від цієї функції.

ПК Copilot+ із Recall мають надійти у продаж уже 18 червня. На даний момент функція Recall увімкнена за замовчуванням, але користувачі можуть відключити її на свій розсуд.