Accuracy small numbers converted to symbolic
1 visualizzazione (ultimi 30 giorni)
Mostra commenti meno recenti
Martin Baumann
il 4 Mag 2021
Commentato: Martin Baumann
il 6 Mag 2021
Any idea how to eliminate the inaccuracy occuring when converting small numbers to symbolic:
Current Example:
>> sym(2e-6)
ans =
4722366482869645/2361183241434822606848
>> sym(2e-5)
ans =
1/50000
0 Commenti
Risposta accettata
Più risposte (0)
Vedere anche
Categorie
Scopri di più su Symbolic Variables, Expressions, Functions, and Preferences in Help Center e File Exchange
Community Treasure Hunt
Find the treasures in MATLAB Central and discover how the community can help you!
Start Hunting!