ШІ Microsoft Copilot незабаром буде працювати локально на ПК

Сервіс штучного інтелекту Copilot від Microsoft буде працювати на ПК локально, повідомили в Intel в інтерв’ю Tom’s Hardware. Компанія також заявила, що комп’ютери з ШІ наступного покоління потребуватимуть вбудованих нейронних процесорів (NPU) з потужністю понад 40 TOPS (трильйонів операцій в секунду), що перевищує можливості будь-якого споживчого процесора, доступного на ринку.

Intel заявила, що комп’ютери зі штучним інтелектом зможуть локально запускати “більше елементів Copilot”. Наразі Copilot виконує майже все в хмарі, навіть невеликі запити. Це створює певну затримку, яка підходить для великих завдань, але не є ідеальною для менших завдань. Додавання локальних обчислювальних потужностей зменшило б цю затримку, а також потенційно підвищило б продуктивність і конфіденційність.

Раніше ходили чутки, що Microsoft вимагала 40 TOPS на комп’ютерах з ШІ наступного покоління (разом зі скромними 16 ГБ оперативної пам’яті). Наразі Windows майже не використовує NPU, окрім запуску відеоефектів, таких як розмиття фону для вебкамер Surface Studio. ChromeOS і macOS використовують потужність NPU для більшої кількості функцій обробки відео та аудіо, а також для розпізнавання тексту, перекладу, транскрипції в реальному часі тощо, зазначає Ars Technica.

Поки що процесором з найшвидшою швидкістю NPU є Apple M3, який пропонує 18 найкращих результатів у всій лінійці (M3, M3 Pro і M3 Ultra). Наступними йдуть ноутбучні чіпи AMD Ryzen 8040 і 7040 з 16 і 10 TOPS відповідно, а Intel Meteor Lake також досягає 10 TOPS. Qualcomm може запропонувати перший процесор з достатньою потужністю для Copilot через Snapdragon X Elite, який запропонує 45 TOPS швидкості обчислень ШІ.

Чіпи Intel Lunar Lake, які повинні з’явитися у 2025 році, будуть поставлятися з потрійною швидкістю NPU. Вчора компанія представила 300 нових функцій ШІ, оптимізованих спеціально для власної платформи OpenVino. Чип-гігант також анонсував набір для розробки комп’ютерів зі штучним інтелектом на базі ASUS NUC Pro, який використовує сучасний кремній Meteor Lake.

“З точки зору настільних комп’ютерів, у нас є плани на стороні настільних комп’ютерів, ми б сказали, що це AI PC. А ще є комп’ютер зі штучним інтелектом наступного покоління, вимоги 40 TOPS; у нас є всі наші різні кроки в нашій дорожній карті щодо того, як ми охоплюємо всі різні сегменти”, – розповіли в компанії Tom’s Hardware.