小弟將整個矩陣存入txt or xls 格式時。
發現個一個對我來說蠻重大的問題!
對存入的檔案來說,我原本的精度是到達小數點第6位,也就是 0.000001
但是我將數個數值組合成為矩陣,在進行存檔之後。
發現精度竟然只剩下小數點第3位,也就是0.001
請問各位高手們,這要如何提生存檔的精度呢???
Dar38512.4657407407小弟將整個矩陣存入txt or xls 格式時。
發現個一個對我來說蠻重大的問題!
對存入的檔案來說,我原本的精度是到達小數點第6位,也就是 0.000001
但是我將數個數值組合成為矩陣,在進行存檔之後。
發現精度竟然只剩下小數點第3位,也就是0.001
請問各位高手們,這要如何提生存檔的精度呢???
Dar38512.4657407407所以問題就是在你build array時精度變小了
你check一下你build array後的精度是多少
這應該不是存檔的問題
感謝您的回答~
小弟檢查了一下,發現真的是矩?組合之後,精度就不?了~
??一下,這要如何?理呢?
因為我測?過,用亂數所組成的矩?就沒有?題,但是我的程式精度就是不足啊...
小弟附上我的程式....麻煩高手?察看一下好嗎?
謝謝~單點法.rar
Dar38512.6121875以後如果有需要別人幫你看一下程式
最好可以附加一些說明及操作方法, 不然實在無從試起
我沒有實際run過, 不過問題應該不是你build array的問題
上面我講錯了, 這個問題可能就是在Write to Spreadsheet File.vi上
你點進去subvi看, 可以看到如下圖中, 此vi在存檔時將數字format成精度到小數點後3位, 所以你把format的格式改成 %.6f 就可以了
真是抱歉,這是小弟的疏忽了~
在此說聲抱歉。
在這程式裡面,其實是包含運算與存檔和讀檔。
當開始執行時,系統會產生一個TXT檔在你的C:下面,之後再是所有輸入來進行計算。最後是存檔。
當然不懂的人可以不用按『開始計算』,直接把數值輸入一下,再按下右上方的存檔。就可以看看精度是否跑掉~
我用Case全部分開來跑。
本想將傳一些圖解上來的,但是圖一直都上傳不上來。所以放棄了。
不過,小弟試著將你所說的 %.3f改高一點,但是還是無法做到。
但是後來我試著用另一種方法,
Open File -> Writ File -> Close File
這個流程辦到了。
其中用了Array To Spreadsheet String 來將 %.3f提高到%.10f 而且也確定能存檔了。
感謝您的幫忙了~
^^