Introduzione pratica a Edge AI

Questo Tech Talk presenta l’Edge AI, un approccio in cui i modelli già addestrati vengono eseguiti direttamente su dispositivi locali, come sistemi embedded o computer edge nelle vicinanze, invece che nel cloud. Il documento analizza i vantaggi di questo approccio, tra cui una latenza inferiore, una larghezza di banda ridotta, una migliore privacy dei dati e una maggiore affidabilità in caso di problemi di connettività. L’intervento mette a confronto il workflow dell’IA per sistemi edge ed embedded rispetto al deployment nel cloud, evidenziando che, pur essendo il processo nel complesso simile, è necessario un maggiore impegno per ottimizzare e distribuire i modelli su hardware con risorse limitate. Vengono presentate strategie pratiche, come il pruning, la quantizzazione e la generazione automatica del codice, per adattare i modelli ai processori di destinazione. Infine, l’intervento sottolinea l’importanza della robustezza e della sicurezza nelle applicazioni di Edge AI, illustrando tecniche come il rilevamento di dati fuori distribuzione, la verifica formale e l’integrazione di vincoli fisici nei modelli.