有關存檔的精度問題...

小弟將整個矩陣存入txt or xls 格式時。

發現個一個對我來說蠻重大的問題!

對存入的檔案來說,我原本的精度是到達小數點第6位,也就是 0.000001

但是我將數個數值組合成為矩陣,在進行存檔之後。

發現精度竟然只剩下小數點第3位,也就是0.001

請問各位高手們,這要如何提生存檔的精度呢??? 

Dar38512.4657407407

所以問題就是在你build array時精度變小了

你check一下你build array後的精度是多少

這應該不是存檔的問題

感謝您的回答~

小弟檢查了一下,發現真的是矩?組合之後,精度就不?了~

??一下,這要如何?理呢?

因為我測?過,用亂數所組成的矩?就沒有?題,但是我的程式精度就是不足啊...

小弟附上我的程式....麻煩高手?察看一下好嗎?

謝謝~單點法.rar

Dar38512.6121875

以後如果有需要別人幫你看一下程式

最好可以附加一些說明及操作方法, 不然實在無從試起

我沒有實際run過, 不過問題應該不是你build array的問題

上面我講錯了, 這個問題可能就是在Write to Spreadsheet File.vi上

你點進去subvi看, 可以看到如下圖中, 此vi在存檔時將數字format成精度到小數點後3位, 所以你把format的格式改成 %.6f 就可以了

yao38512.5977083333

QQ

真是抱歉,這是小弟的疏忽了~

在此說聲抱歉。

在這程式裡面,其實是包含運算與存檔和讀檔。

當開始執行時,系統會產生一個TXT檔在你的C:下面,之後再是所有輸入來進行計算。最後是存檔。

當然不懂的人可以不用按『開始計算』,直接把數值輸入一下,再按下右上方的存檔。就可以看看精度是否跑掉~

我用Case全部分開來跑。

本想將傳一些圖解上來的,但是圖一直都上傳不上來。所以放棄了。

 

不過,小弟試著將你所說的 %.3f改高一點,但是還是無法做到。

但是後來我試著用另一種方法,

Open File -> Writ File -> Close File

這個流程辦到了。

其中用了Array To Spreadsheet String 來將 %.3f提高到%.10f 而且也確定能存檔了。

感謝您的幫忙了~

^^