Ich habe eine Frage bezüglich der Genauigkeit der num2str() fctn in MatLab.präzision num2string matlab
a=0.11111111111111;
b=a;
Linux/OSX: num2str(a+b,25): ans=0.2222222222222221655465116
Windows: num2str(a+b,25): ans= 0.222222222222222
Kann jemand erklären, woher die Zahlen nach der 15. Dezimalstelle kommen, wenn ein Linux/OSX-System verwendet wird? Was ist die maximale Genauigkeit, die num2str() erreichen kann?
Es gibt einen Hinweis auf die num2str-Dokumentation, die ich nicht vollständig verstehe.
Note: If you specify precision to exceed the precision of the input floating-point data type, the results might not match the input values to the precision you specified. The result depends on your computer hardware and operating system.
Es hängt von Ihrer Computer-Hardware und Betriebssystem. – excaza
Entschuldigung, das ist offensichtlich und keine Erklärung – moatze