Компанія Apple готує інноваційний метод запуску мовних моделей на iPhone, який дасть змогу зробити величезний якісний стрибок уперед. Про це пише MacRumors.
Чутки про розробку Apple GPT вже давно розбурхують уми фанатів, однак для роботи мовних моделей на смартфонах все ще зберігається одне велике обмеження – пам’ять. Нейромережі на кшталт ChatGPT вимагають великої кількості пам’яті для зберігання кешу та архівів даних, але обсяг оперативної пам’яті iPhone навіть близько не дозволяє це реалізувати. Тепер інженери Apple придумали рішення.
Згідно з джерелом, у майбутніх iPhone буде реалізовано використання вбудованого флеш-накопичувача для розгортання великих мовних моделей прямо на смартфоні. Apple використовує два ключові методи для цього:
Описані вище підходи дадуть змогу використовувати для Apple GPT щонайменше вдвічі більше пам’яті, ніж зазвичай пропонує ОЗП iPhone. Як наслідок, робота ШІ на айфоні прискориться в 4-5 разів на обчислювальних і до 25 разів на графічних ядрах.
Усе це посприяє величезному стрибку в роботі нейромереж на iPhone і подарує користувачам такий досвід, якого вони ніколи не відчували. Кажуть, повністю переосмислена нейро-Siri здивує нас уже в iOS 18.
Інженер із вбудованих систем Олег Кутков, який працює в Ubiquiti Labs, раніше опублікував зображення та…
Компанія Tether, відома за стабільною монетою USDT, представила платформу для випуску нової криптовалюти – Alloy.…
Компанія Microsoft повернула в Windows 11 вкрай корисну функцію меню «Пуск» під назвою «Списки швидкого…
Авторитетний інсайдер та аналітик TFI Securities Мін-Чі Куо поділився інформацією про те, що ювілейні Apple…
Закон про протидію використанню дронів КНР є частиною Закону про повноваження національної оборони США від…
Відеоролик, який демонструє, як змінилося відображення персонального помічника Siri на iPhone після інсталяції iOS 18,…