Panoramica di WebNN
L'API Web Neural Network (WebNN) è uno standard Web emergente che consente alle app Web e ai framework di accelerare le reti neurali profonde con GPU, CPU o acceleratori di intelligenza artificiale appositamente creati, ad esempio NPU. L'API WebNN sfrutta l'API DirectML in Windows per accedere alle funzionalità hardware native e ottimizzare l'esecuzione di modelli di rete neurale.
Man mano che l'uso di intelligenza artificiale/Machine Learning nelle app diventa più diffuso, l'API WebNN offre i vantaggi seguenti:
- Ottimizzazioni delle prestazioni : usando DirectML, WebNN consente di consentire alle app Web e ai framework di sfruttare le migliori ottimizzazioni hardware e software disponibili per ogni piattaforma e dispositivo, senza richiedere codice complesso e specifico della piattaforma.
- Bassa latenza : l'inferenza nel browser consente di abilitare casi d'uso nuovi con origini multimediali locali, ad esempio l'analisi video in tempo reale, il rilevamento dei volti e il riconoscimento vocale, senza la necessità di inviare dati ai server remoti e attendere le risposte.
- Conservazione della privacy: i dati degli utenti rimangono sul dispositivo e mantengono la privacy dell'utente, poiché le app Web e i framework non devono caricare informazioni riservate o personali nei servizi cloud per l'elaborazione.
- Disponibilità elevata: nessuna dipendenza dalla rete dopo la memorizzazione nella cache iniziale degli asset per caso offline, poiché le app Web e i framework possono eseguire modelli di rete neurale in locale anche quando la connessione Internet non è disponibile o non affidabile.
- Costo basso del server : l'elaborazione nei dispositivi client non richiede server, che consente alle app Web di ridurre i costi operativi e di manutenzione dell'esecuzione di servizi di intelligenza artificiale/Machine Learning nel cloud.
L'intelligenza artificiale/Machine Learning supportata da WebNN include intelligenza artificiale generativa, rilevamento delle persone, rilevamento dei volti, segmentazione semantica, rilevamento di scheletri, trasferimento dello stile, super risoluzione, didascalia di immagini, traduzione automatica e eliminazione del rumore.
Nota
L'API WebNN è ancora in corso, con il supporto GPU in uno stato di anteprima e il supporto NPU presto disponibile. L'API WebNN non deve essere attualmente usata in un ambiente di produzione.
Supporto del framework
WebNN è progettato come API back-end per framework Web. Per Windows, è consigliabile usare il Web ONNX Runtime. Ciò offre un'esperienza familiare all'uso nativo di DirectML e ONNX Runtime, in modo da poter avere un'esperienza coerente nella distribuzione dell'intelligenza artificiale in formato ONNX in applicazioni Web e native.
Requisiti webNN
È possibile controllare le informazioni sul browser passando a about://version nella barra degli indirizzi del browser Chromium.
| Hardware | Web browser | Versione Windows | ONNX Runtime Web version | Versione driver |
|---|---|---|---|---|
| GPU | WebNN richiede un browser Chromium*. Usare la versione più recente di Microsoft Edge Beta. | Versione minima: Windows 11, versione 21H2. | Versione minima: 1.18 | Installare il driver più recente per l'hardware. |
Nota
I browser basati su Chromium possono attualmente supportare WebNN, ma dipenderanno dallo stato di implementazione del singolo browser.
Supporto modelli
GPU (anteprima):
Quando si esegue su GPU, WebNN supporta attualmente i modelli seguenti:
- Turbo a diffusione stabile
- Diffusione stabile 1.5
- Base sussurra
- MobileNetv2
- Segmentare qualsiasi elemento
- ResNet
- EfficientNet
- SqueezeNet
WebNN funziona anche con modelli personalizzati, purché il supporto dell'operatore sia sufficiente. Controllare lo stato degli operatori qui.
Domande frequenti
Ricerca per categorie inviare un problema con WebNN?
Per problemi generali relativi a WebNN, segnalare un problema in GitHub webNN Developer Preview
Per problemi relativi al Web di runtime ONNX o al provider di esecuzione WebNN, passare a ONNXRuntime Github.
Ricerca per categorie problemi di debug con WebNN?
La specifica W3C webNN contiene informazioni sulla propagazione degli errori, in genere tramite eccezioni DOM. Il log alla fine del about://gpu può anche avere informazioni utili. Per altri problemi, segnalare un problema come collegato in precedenza.
WebNN supporta altri sistemi operativi?
Attualmente WebNN supporta meglio il sistema operativo Windows. È in corso una versione per i sistemi operativi Mac.
Quali back-end hardware sono attualmente disponibili? Alcuni modelli sono supportati solo con back-end hardware specifici?
È possibile trovare informazioni sul supporto degli operatori in WebNN in Stato di implementazione delle operazioni WebNN | Web Machine Learning.