請教一下,!如是string還可以確認長度或hex,
但如果是DBL有什麼方法確認
為什麼不一致嗎?謝謝指導
Untitled 3.vi (6.2 KB)
這是實際值與顯示精度的問題,有可能一個是1.81,一個是1.82,甚至是小數點後很多位才開始不一樣,如果你只想比較到小數點後一位,那可以把浮點數轉字串,然後設定精度,這樣就可以只比較到你要的位數了。
請教一下,!如是string還可以確認長度或hex,
但如果是DBL有什麼方法確認
為什麼不一致嗎?謝謝指導
Untitled 3.vi (6.2 KB)
這是實際值與顯示精度的問題,有可能一個是1.81,一個是1.82,甚至是小數點後很多位才開始不一樣,如果你只想比較到小數點後一位,那可以把浮點數轉字串,然後設定精度,這樣就可以只比較到你要的位數了。