有效數(shù)字的舍入規(guī)則
發(fā)布時(shí)間:2014/8/18 21:13:10 訪問(wèn)次數(shù):1649
由于存在著誤差,因此,K4M513233C-DN75測(cè)量的數(shù)據(jù)總是近似值,它通常由可靠數(shù)字和欠準(zhǔn)數(shù)字兩部分組成。例如,由電壓表測(cè)得的電壓是24.8 V,這是個(gè)近似數(shù),25是可靠數(shù)字,而末尾8為欠準(zhǔn)數(shù)字,即24.8為3位有效數(shù)字。對(duì)于有效值的正確表示,應(yīng)注意以下3點(diǎn):
①有效數(shù)字是指從左邊第一排非零的數(shù)字開始,直到右邊最后一個(gè)數(shù)字為止的所有字。例如,測(cè)得頻率為0.0158 MHz,它是由l、5、8這3個(gè)有效數(shù)字組成的頻率值,而左邊的兩個(gè)零不是有效數(shù)字,它可寫為1. 58×l0。2 MHz.也可寫為15.8 kHz,而不能寫為15 800 Hz。
②如已知誤差,則有效值的位數(shù)應(yīng)與誤差相一致。例如,設(shè)儀表誤差為±0. 01 V,測(cè)得電壓為12. 354 V,其結(jié)果應(yīng)寫成12. 35 V。
③當(dāng)給出誤差有單位時(shí),測(cè)量數(shù)據(jù)的寫法應(yīng)與其一致。
數(shù)字的舍入規(guī)則
為使正、負(fù)舍入誤差的機(jī)會(huì)大致相等,傳統(tǒng)的方法足采用四舍五人的辦法,現(xiàn)已廣泛采用“小于5舍,大于5人,等于5時(shí)取偶數(shù)”的辦法。
(1)加減法運(yùn)算規(guī)則
幾個(gè)準(zhǔn)確度不同的數(shù)據(jù)相加、相減時(shí),按取舍規(guī)則,將小數(shù)位數(shù)較多的數(shù)簡(jiǎn)化為比小數(shù)位數(shù)最少的數(shù)只多一位數(shù)字的數(shù),然后計(jì)算,計(jì)算結(jié)果的小數(shù)位數(shù),取至與原小數(shù)位數(shù)最少的數(shù)相同。
(2)乘除運(yùn)算規(guī)則
兩個(gè)有效位數(shù)不同的數(shù)相乘或相除時(shí),將有效數(shù)字位數(shù)較多的數(shù)的位數(shù)取為比另一個(gè)數(shù)多一位,然后進(jìn)行計(jì)算,求得的積或商的有效位數(shù),應(yīng)根據(jù)舍入規(guī)則保留與原有效數(shù)字位數(shù)的數(shù)相同。
為了保證必要的精度,參與乘除運(yùn)算的各數(shù)及最終運(yùn)算結(jié)果也可比有效數(shù)字位數(shù)最少者多保留一位有效數(shù)字。
由于存在著誤差,因此,K4M513233C-DN75測(cè)量的數(shù)據(jù)總是近似值,它通常由可靠數(shù)字和欠準(zhǔn)數(shù)字兩部分組成。例如,由電壓表測(cè)得的電壓是24.8 V,這是個(gè)近似數(shù),25是可靠數(shù)字,而末尾8為欠準(zhǔn)數(shù)字,即24.8為3位有效數(shù)字。對(duì)于有效值的正確表示,應(yīng)注意以下3點(diǎn):
①有效數(shù)字是指從左邊第一排非零的數(shù)字開始,直到右邊最后一個(gè)數(shù)字為止的所有字。例如,測(cè)得頻率為0.0158 MHz,它是由l、5、8這3個(gè)有效數(shù)字組成的頻率值,而左邊的兩個(gè)零不是有效數(shù)字,它可寫為1. 58×l0。2 MHz.也可寫為15.8 kHz,而不能寫為15 800 Hz。
②如已知誤差,則有效值的位數(shù)應(yīng)與誤差相一致。例如,設(shè)儀表誤差為±0. 01 V,測(cè)得電壓為12. 354 V,其結(jié)果應(yīng)寫成12. 35 V。
③當(dāng)給出誤差有單位時(shí),測(cè)量數(shù)據(jù)的寫法應(yīng)與其一致。
數(shù)字的舍入規(guī)則
為使正、負(fù)舍入誤差的機(jī)會(huì)大致相等,傳統(tǒng)的方法足采用四舍五人的辦法,現(xiàn)已廣泛采用“小于5舍,大于5人,等于5時(shí)取偶數(shù)”的辦法。
(1)加減法運(yùn)算規(guī)則
幾個(gè)準(zhǔn)確度不同的數(shù)據(jù)相加、相減時(shí),按取舍規(guī)則,將小數(shù)位數(shù)較多的數(shù)簡(jiǎn)化為比小數(shù)位數(shù)最少的數(shù)只多一位數(shù)字的數(shù),然后計(jì)算,計(jì)算結(jié)果的小數(shù)位數(shù),取至與原小數(shù)位數(shù)最少的數(shù)相同。
(2)乘除運(yùn)算規(guī)則
兩個(gè)有效位數(shù)不同的數(shù)相乘或相除時(shí),將有效數(shù)字位數(shù)較多的數(shù)的位數(shù)取為比另一個(gè)數(shù)多一位,然后進(jìn)行計(jì)算,求得的積或商的有效位數(shù),應(yīng)根據(jù)舍入規(guī)則保留與原有效數(shù)字位數(shù)的數(shù)相同。
為了保證必要的精度,參與乘除運(yùn)算的各數(shù)及最終運(yùn)算結(jié)果也可比有效數(shù)字位數(shù)最少者多保留一位有效數(shù)字。
熱門點(diǎn)擊
- 查表法
- 擴(kuò)充響應(yīng)曲線法
- 計(jì)算機(jī)網(wǎng)絡(luò)在我國(guó)的發(fā)展
- 直線插補(bǔ)計(jì)算的程序?qū)崿F(xiàn)
- 按網(wǎng)絡(luò)的作用范圍進(jìn)行分類
- 因特網(wǎng)發(fā)展的三個(gè)階段
- 集成單穩(wěn)態(tài)觸發(fā)器及其應(yīng)用
- 采用自頂向下方法的優(yōu)點(diǎn)
- 逐點(diǎn)比較法插補(bǔ)原理
- 用CD4017設(shè)計(jì)電子密碼鎖
推薦技術(shù)資料
- 單片機(jī)版光立方的制作
- N視頻: http://v.youku.comN_sh... [詳細(xì)]
- 人形機(jī)器人市場(chǎng)未來(lái)發(fā)展格局前景預(yù)測(cè)
- 新一代航空器用激光雷達(dá)CES2
- SPAD-SoC集成1080-
- 全球首款1080線激光雷達(dá)應(yīng)用
- 激光雷達(dá)行業(yè)市場(chǎng)發(fā)展新動(dòng)態(tài)
- AI時(shí)代存儲(chǔ)技術(shù)產(chǎn)品走向趨勢(shì)
- 多媒體協(xié)處理器SM501在嵌入式系統(tǒng)中的應(yīng)用
- 基于IEEE802.11b的EPA溫度變送器
- QUICCEngine新引擎推動(dòng)IP網(wǎng)絡(luò)革新
- SoC面世八年后的產(chǎn)業(yè)機(jī)遇
- MPC8xx系列處理器的嵌入式系統(tǒng)電源設(shè)計(jì)
- dsPIC及其在交流變頻調(diào)速中的應(yīng)用研究