Verifica

Addestrare reti solide e verificare la solidità della rete

La verifica del Deep Learning è un set di tecniche per valutare le proprietà delle reti neurali profonde. Ad esempio, è possibile verificare le proprietà di solidità di una rete, calcolare i limiti di output della rete, trovare esempi avversari, rilevare i dati fuori distribuzione e verificare la conformità agli standard industriali.

Il pacchetto di supporto Deep Learning Toolbox Verification library consente di verificare le proprietà di solidità delle reti di Deep Learning.

Utilizzare la funzione verifyNetworkRobustness per verificare la solidità della rete agli esempi avversari. Una rete è solida agli input avversari se la classe prevista della rete non cambia quando l'input è perturbato tra i limiti inferiori e superiori specificati. Per un set di limiti di input, la funzione verifica se la rete è solida rispetto agli esempi avversari inclusi tra quei limiti di input e restituisce verified, violated o unproven.
Utilizzare la funzione estimateNetworkOutputBounds per stimare l'intervallo di valori di output che la rete restituisce quando l’input è compreso tra i limiti inferiori e superiori specificati. Utilizzare questa funzione per stimare la sensibilità delle previsioni della rete alla perturbazione dell'input.
Utilizzare la funzione networkDistributionDiscriminator per creare un discriminatore di distribuzione che separi i dati tra dentro e fuori distribuzione.

Funzioni

`estimateNetworkOutputBounds`	Estimate output bounds of deep learning network (Da R2022b)
`verifyNetworkRobustness`	Verify adversarial robustness of deep learning network (Da R2022b)
`networkDistributionDiscriminator`	Deep learning distribution discriminator (Da R2023a)
`isInNetworkDistribution`	Determine whether data is within the distribution of the network (Da R2023a)
`distributionScores`	Distribution confidence scores (Da R2023a)
`drise`	Explain object detection network predictions using D-RISE (Da R2024a)

Oggetti

`BaselineDistributionDiscriminator`	Baseline distribution discriminator (Da R2023a)
`EnergyDistributionDiscriminator`	Energy distribution discriminator (Da R2023a)
`ODINDistributionDiscriminator`	ODIN distribution discriminator (Da R2023a)
`HBOSDistributionDiscriminator`	HBOS distribution discriminator (Da R2023a)

Argomenti

Verification of Neural Networks
Learn about verification of neural networks using Deep Learning Toolbox™ Verification Library.
Verify Robustness of Deep Learning Neural Network
This example shows how to verify the adversarial robustness of a deep learning neural network.
Verify Robustness of ONNX Network
This example shows how to verify the adversarial robustness of an imported ONNX™ deep neural network. (Da R2024a)
Deep Learning Visualization Methods
Learn about and compare deep learning visualization methods.
Out-of-Distribution Detection for Deep Neural Networks
This example shows how to detect out-of-distribution (OOD) data in deep neural networks.
Verify an Airborne Deep Learning System
This example shows how to verify a deep learning system for airborne applications and is based on the work in [5,6,7], which includes the development and verification activities required by DO-178C [1], ARP4754A [2], and prospective EASA and FAA guidelines [3,4]. (Da R2023b)

Esempi in primo piano

Generate Untargeted and Targeted Adversarial Examples for Image Classification

Use the fast gradient sign method (FGSM) and the basic iterative method (BIM) to generate adversarial examples for a pretrained neural network.

Apri live script

Train Image Classification Network Robust to Adversarial Examples

Train a neural network that is robust to adversarial examples using fast gradient sign method (FGSM) adversarial training.

Apri live script

Train Robust Deep Learning Network with Jacobian Regularization

Train a neural network that is robust to adversarial examples using a Jacobian regularization scheme.

Apri live script

Generate Adversarial Examples for Semantic Segmentation

Generate adversarial examples for a semantic segmentation network using the basic iterative method (BIM).

Apri live script

Explore Semantic Segmentation Network Using Grad-CAM

Explore the predictions of a pretrained semantic segmentation network using Grad-CAM.

Apri live script

Interpret Deep Network Predictions on Tabular Data Using LIME

Use the locally interpretable model-agnostic explanations (LIME) technique to understand the predictions of a deep neural network classifying tabular data. You can use the LIME technique to understand which predictors are most important to the classification decision of a network.

Apri live script

Out-of-Distribution Data Discriminator for YOLO v4 Object Detector

Detect out-of-distribution (OOD) data in a YOLO v4 object detector.

Apri live script

Out-of-Distribution Detection for LSTM Document Classifier

Detect out-of-distribution (OOD) data in an LSTM document classifier.

Apri live script