Verifica del Deep Learning

Addestrare reti di immagini solide e verificare la solidità della rete di immagini

La verifica del Deep Learning è un set di tecniche per valutare le proprietà delle reti neurali profonde. Ad esempio, è possibile verificare le proprietà di solidità di una rete, calcolare i limiti di output della rete e trovare esempi avversari.

Il pacchetto di supporto Deep Learning Toolbox™ Verification library consente di verificare le proprietà di solidità delle reti di Deep Learning. Utilizzare questa libreria per verificare se una rete di Deep Learning è solida rispetto a esempi avversari, per calcolare i limiti di output per un set di limiti di input e per rilevare i dati fuori distribuzione.

Utilizzare la funzione verifyNetworkRobustness per verificare la solidità della rete agli esempi avversari. Una rete è solida agli input avversari se la classe prevista della rete non cambia quando l'input è perturbato tra i limiti inferiori e superiori specificati. Per un set di limiti di input, la funzione verifica se la rete è solida rispetto agli esempi avversari inclusi tra quei limiti di input e restituisce verified, violated o unproven.
Utilizzare la funzione estimateNetworkOutputBounds per stimare l'intervallo di valori di output che la rete restituisce quando l’input è compreso tra i limiti inferiori e superiori specificati. Utilizzare questa funzione per stimare la sensibilità delle previsioni della rete alla perturbazione dell'input.
Utilizzare la funzione networkDistributionDiscriminator per creare un discriminatore di distribuzione che separi i dati tra dentro e fuori distribuzione.

Funzioni

`estimateNetworkOutputBounds`	Estimate output bounds of deep learning network (Da R2022b)
`verifyNetworkRobustness`	Verify adversarial robustness of deep learning network (Da R2022b)
`networkDistributionDiscriminator`	Deep learning distribution discriminator (Da R2023a)
`isInNetworkDistribution`	Determine whether data is within the distribution of the network (Da R2023a)
`distributionScores`	Distribution confidence scores (Da R2023a)

Argomenti

Verify Robustness of Deep Learning Neural Network
This example shows how to verify the adversarial robustness of a deep learning neural network.
Deep Learning Visualization Methods
Learn about and compare deep learning visualization methods.

Esempi in primo piano

Generate Untargeted and Targeted Adversarial Examples for Image Classification

Use the fast gradient sign method (FGSM) and the basic iterative method (BIM) to generate adversarial examples for a pretrained neural network.

Apri live script

Train Image Classification Network Robust to Adversarial Examples

Train a neural network that is robust to adversarial examples using fast gradient sign method (FGSM) adversarial training.

Apri live script

Train Robust Deep Learning Network with Jacobian Regularization

Train a neural network that is robust to adversarial examples using a Jacobian regularization scheme.

Apri live script

Generate Adversarial Examples for Semantic Segmentation

Generate adversarial examples for a semantic segmentation network using the basic iterative method (BIM).

Apri live script

Explore Semantic Segmentation Network Using Grad-CAM

Explore the predictions of a pretrained semantic segmentation network using Grad-CAM.

Apri live script