Windows 11 отримує локальні ШІ-функції без НПУ
Windows 11 отримає локальні ШІ-функції на ПК без NPU
Microsoft змінює підхід до реалізації штучного інтелекту у Windows 11. Компанія оновила документацію та повідомила, що локальні мовні моделі тепер зможуть працювати не лише на спеціалізованих Copilot+ PC, а й на звичайних комп’ютерах із відеокартами NVIDIA GeForce RTX 30-ї серії або новішими.
Для використання нових можливостей потрібна відеокарта з мінімум 6 ГБ відеопам’яті. Це означає, що мільйони вже існуючих ПК з RTX-графікою потенційно отримають доступ до локальних ШІ-функцій без необхідності купувати нове обладнання з нейронним процесором (NPU).
Microsoft переглядає концепцію Copilot+ PC
Коли у 2024 році Microsoft представила Copilot+ PC, ці пристрої позиціонувалися як основна платформа для локального штучного інтелекту в Windows. Щоб отримати такий статус, комп’ютер мав відповідати жорстким вимогам: наявність SSD-накопичувача, не менше 16 ГБ оперативної пам’яті та нейронний процесор із продуктивністю від 40 TOPS. Тоді компанія наголошувала, що саме NPU є ключовим компонентом для роботи ШІ-функцій без підключення до хмарних сервісів.
Однак ентузіасти вже давно зазначали, що сучасні відеокарти чудово справляються з такими завданнями. Більше того, графічні процесори часто забезпечують вищу продуктивність під час роботи з мовними моделями та генеративним ШІ, ніж вбудовані NPU.
Це створювало парадоксальну ситуацію: ігровий ПК із потужною відеокартою GeForce RTX 4070 мав достатньо ресурсів для запуску локальних ШІ-моделей, але не отримував доступ до частини вбудованих можливостей Windows лише через відсутність NPU. Водночас тонкий ноутбук із відповідним нейронним процесором міг використовувати ці функції без обмежень.
Які можливості отримають власники відеокарт NVIDIA RTX
Оновлені програмні інтерфейси Language Model API дозволять розробникам використовувати локальні можливості штучного інтелекту на сумісному обладнанні NVIDIA.
Основою системи є Phi Silica — компактна мовна модель Microsoft, яка працює безпосередньо на пристрої. Завдяки цим інструментам застосунки зможуть:
- створювати короткі підсумки текстів;
- переписувати та редагувати контент;
- перетворювати текст у таблиці;
- структурувати інформацію;
- генерувати відповіді на запитання користувачів.
Фактично йдеться про локальний аналог функцій, які зазвичай асоціюються з такими сервісами, як ChatGPT чи Gemini. Головна відмінність полягає в тому, що обробка даних відбувається безпосередньо на комп’ютері, а не на віддалених серверах.
Такий підхід має дві ключові переваги. По-перше, це конфіденційність: документи, електронні листи та нотатки не залишають меж пристрою. По-друге, швидкість роботи: ШІ-функції не залежать від якості інтернет-з’єднання, хмарної інфраструктури чи платних підписок.
Обмеження та перспективи
Наразі зміни стосуються лише Language Model API. Деякі інші функції Windows 11, зокрема Recall, Click to Do та частина творчих інструментів на основі ШІ, як і раніше вимагатимуть наявності нейронного процесора.
Водночас поява підтримки звичайних RTX-відеокарт може свідчити про зміну стратегії Microsoft. Компанія поступово починає розглядати мовні моделі як стандартний компонент Windows, а не як ексклюзивну функцію для окремого класу пристроїв.