數(shù)字的舍入規(guī)則
發(fā)布時間:2014/1/29 21:19:17 訪問次數(shù):2178
測量數(shù)據的處理就是從測量所得的原始OP07CDR數(shù)據中求出被測量的最佳估計值,并計算其精確程度。必要時,還要把測量的數(shù)據繪制成曲線或歸納成經驗公式,以便得出更加清晰的結論。
有效數(shù)字的舍入規(guī)則。由于存在著誤差,因此,測量的數(shù)據總是近似值,它通常由可靠數(shù)字和欠準數(shù)字兩部分組成。例如,由電壓表測得的電壓是24.8 V,這是個近似數(shù),25是可靠數(shù)字,而末尾8為欠準數(shù)字,即24.8為3位有效數(shù)字。對于有效值的正確表示,應注意以下3點:
有效數(shù)字是指從左邊第一排非零的數(shù)字開始,直到右邊最后一個數(shù)字為止的所有字。例如,測得頻率為0.0158 MHz,它是由l、5、8這3個有效數(shù)字組成的頻率值,而左邊的兩個零不是有效數(shù)字,它可寫為2 MHz.也可寫為15.8 kHz,而不能寫為15 800 Hz。
如已知誤差,則有效值的位數(shù)應與誤差相一致。例如,設儀表誤差為±0. 01 V,測得電壓為12. 354 V,其結果應寫成12. 35 V。
當給出誤差有單位時,測量數(shù)據的寫法應與其一致。
數(shù)字的舍入規(guī)則。為使正、負舍入誤差的機會大致相等,傳統(tǒng)的方法足采用四舍五人的辦法,現(xiàn)已廣泛采用“小于5舍,大于5人,等于5時取偶數(shù)”的辦法。
數(shù)據運算規(guī)則。幾個準確度不同的數(shù)據相加、相減時,按取舍規(guī)則,將小數(shù)位數(shù)較多的數(shù)簡化為比小數(shù)位數(shù)最少的數(shù)只多一位數(shù)字的數(shù),然后計算,計算結果的小數(shù)位數(shù),取至與原小數(shù)位數(shù)最少的數(shù)相同。
乘除運算規(guī)則。兩個有效位數(shù)不同的數(shù)相乘或相除時,將有效數(shù)字位數(shù)較多的數(shù)的位數(shù)取為比另一個數(shù)多一位,然后進行計算,求得的積或商的有效位數(shù),應根據舍入規(guī)則保留與原有效數(shù)字位數(shù)少的數(shù)相同。
為了保證必要的精度,參與乘除運算的各數(shù)及最終運算結果也可比有效數(shù)字位數(shù)最少者多保留一位有效數(shù)字。
測量數(shù)據的處理就是從測量所得的原始OP07CDR數(shù)據中求出被測量的最佳估計值,并計算其精確程度。必要時,還要把測量的數(shù)據繪制成曲線或歸納成經驗公式,以便得出更加清晰的結論。
有效數(shù)字的舍入規(guī)則。由于存在著誤差,因此,測量的數(shù)據總是近似值,它通常由可靠數(shù)字和欠準數(shù)字兩部分組成。例如,由電壓表測得的電壓是24.8 V,這是個近似數(shù),25是可靠數(shù)字,而末尾8為欠準數(shù)字,即24.8為3位有效數(shù)字。對于有效值的正確表示,應注意以下3點:
有效數(shù)字是指從左邊第一排非零的數(shù)字開始,直到右邊最后一個數(shù)字為止的所有字。例如,測得頻率為0.0158 MHz,它是由l、5、8這3個有效數(shù)字組成的頻率值,而左邊的兩個零不是有效數(shù)字,它可寫為2 MHz.也可寫為15.8 kHz,而不能寫為15 800 Hz。
如已知誤差,則有效值的位數(shù)應與誤差相一致。例如,設儀表誤差為±0. 01 V,測得電壓為12. 354 V,其結果應寫成12. 35 V。
當給出誤差有單位時,測量數(shù)據的寫法應與其一致。
數(shù)字的舍入規(guī)則。為使正、負舍入誤差的機會大致相等,傳統(tǒng)的方法足采用四舍五人的辦法,現(xiàn)已廣泛采用“小于5舍,大于5人,等于5時取偶數(shù)”的辦法。
數(shù)據運算規(guī)則。幾個準確度不同的數(shù)據相加、相減時,按取舍規(guī)則,將小數(shù)位數(shù)較多的數(shù)簡化為比小數(shù)位數(shù)最少的數(shù)只多一位數(shù)字的數(shù),然后計算,計算結果的小數(shù)位數(shù),取至與原小數(shù)位數(shù)最少的數(shù)相同。
乘除運算規(guī)則。兩個有效位數(shù)不同的數(shù)相乘或相除時,將有效數(shù)字位數(shù)較多的數(shù)的位數(shù)取為比另一個數(shù)多一位,然后進行計算,求得的積或商的有效位數(shù),應根據舍入規(guī)則保留與原有效數(shù)字位數(shù)少的數(shù)相同。
為了保證必要的精度,參與乘除運算的各數(shù)及最終運算結果也可比有效數(shù)字位數(shù)最少者多保留一位有效數(shù)字。
熱門點擊
- 三極管工作在截止區(qū)需要滿足下列條件
- 異步集成計數(shù)器74LS90
- 怎樣區(qū)分是硅管還是鍺管
- 變容二極管的特性和作用
- 小型開關電源的電路原理圖如何
- 紅外發(fā)射管、接收管
- 數(shù)字的舍入規(guī)則
- 穩(wěn)壓二極管的伏安特性如何
- 光電二極管的作用及特性
- 元器件裝配到印制電路板之前如何進行引腳成形
推薦技術資料
- 自制智能型ICL7135
- 表頭使ff11CL7135作為ADC,ICL7135是... [詳細]