Simulinkでの single型の扱いについて
20 visualizzazioni (ultimi 30 giorni)
Mostra commenti meno recenti
Simulinkで、定数 0.01の出力型をSingleとし、Gainブロックで1000倍すると、出力が10 となります。
Single型での0.01の実際の値は、0.009999... で、1000倍した時に誤差がなくなってしまうのはなぜでしょうか
5 Commenti
Atsushi Ueno
il 25 Nov 2021
Spostato: Atsushi Ueno
il 17 Ago 2022
余談ですが:
浮動小数点数演算は、規格(IEEE754など)、処理系、CPUや他ハードウェアの違いに依存します。全く同じソフトウェアで演算をしても、処理系やハードウェアが異なると演算誤差が異なる場合があります。
Atsushi Ueno
il 16 Feb 2022
Spostato: Atsushi Ueno
il 17 Ago 2022
Risposte (0)
Vedere anche
Categorie
Scopri di più su Discontinuities in Help Center e File Exchange
Community Treasure Hunt
Find the treasures in MATLAB Central and discover how the community can help you!
Start Hunting!
