Why 0.6+0.3+0.1-1 is -1.11022302462516e-16, not 0 ? why?? A serials bug??

6 visualizzazioni (ultimi 30 giorni)
denny
denny il 20 Giu 2018
Commentato: denny il 9 Set 2019
0.6+0.3+0.1-1
  1 Commento
denny
denny il 9 Set 2019
This is not a bug, this is bucase the numeric calculation in a computer.
You can use a fraction to calculate it.

Accedi per commentare.

Accedi per rispondere a questa domanda.

Risposte (0)

Categorie

Scopri di più su MATLAB 快速入门 in Help Center e File Exchange

Tag

Community Treasure Hunt

Find the treasures in MATLAB Central and discover how the community can help you!

Start Hunting!