Microsoft integra DeepSeek nella piattaforma PC Copilot+

A gennaio, Microsoft ha annunciato l'intenzione di portare le versioni ottimizzate per NPU del modello DeepSeek-R1 direttamente sui computer Copilot+ dotati di processori Qualcomm Snapdragon X. A febbraio, DeepSeek-R1-Distill-Qwen-1.5B è stato rilasciato per la prima volta in AIToolkit per VSCode.

Oggi la società di Redmond ha annunciato ufficialmente la disponibilità dei suoi raffinati modelli DeepSeek R1 7B e 14B per la piattaforma di elaborazione Copilot+ tramite Azure AI Foundry. La possibilità di eseguire modelli 7B e 14B direttamente sul dispositivo Copilot+ consentirà agli sviluppatori di creare applicazioni di intelligenza artificiale più potenti, cosa che prima non era possibile.

Poiché questi modelli funzionano tramite NPU, gli utenti possono aspettarsi prestazioni di intelligenza artificiale stabili con un impatto minimo sulla durata della batteria e sulle prestazioni termiche del computer. Inoltre, la CPU e la GPU saranno liberate per svolgere altre attività più importanti sul sistema.

Microsoft sottolinea di aver utilizzato Aqua, uno strumento interno di quantizzazione automatica, per quantizzare tutte le varianti del modello DeepSeek fino a int4. Tuttavia, la velocità di elaborazione dei token del modello è piuttosto bassa. Microsoft segnala solo 8 token/secondo con il modello da 14 miliardi e quasi 40 token/secondo con il modello da 1,5 miliardi. Microsoft afferma che sta continuando a ottimizzare per migliorare la velocità. Con il continuo miglioramento delle prestazioni da parte di Microsoft, si prevede che l'impatto di questi modelli sui computer Copilot+ aumenterà in modo significativo.

Gli sviluppatori interessati possono scaricare ed eseguire le varianti 1.5B, 7B e 14B del modello DeepSeek sui computer Copilot+ tramite l'estensione AI Toolkit per VS Code. Il modello DeepSeek è ottimizzato nel formato ONNX QDQ e scaricato direttamente da Azure AI Foundry. Questi modelli saranno disponibili anche sui futuri computer Copilot+ dotati di processori Intel Core Ultra 200V e AMD Ryzen.

Molti pensano che Microsoft corra un rischio stringendo una partnership con DeepSeek. L'integrazione di DeepSeek nell'ecosistema Windows potrebbe mettere nei guai Microsoft se le accuse di furto di tecnologia si rivelassero fondate. Tuttavia, non si può negare che DeepSeek stia facendo un grande passo avanti nel mercato dell'intelligenza artificiale. La mossa di Microsoft segnala una spinta verso funzionalità di intelligenza artificiale sui dispositivi più potenti, aprendo nuove prospettive per le applicazioni basate sull'intelligenza artificiale.