有效數(shù)字的舍入規(guī)則
發(fā)布時(shí)間:2014/4/2 22:18:22 訪問(wèn)次數(shù):943
(1)有效數(shù)字
由于存在著誤差,因此,LMBT3904LT1G測(cè)量的數(shù)據(jù)總是近似值,它通常由可靠數(shù)字和欠準(zhǔn)數(shù)字兩部分組成。例如,由電壓表測(cè)得的電壓是24.8 V,這是個(gè)近似數(shù),25是可靠數(shù)字,而末尾8為欠準(zhǔn)數(shù)字,即24.8為3位有效數(shù)字。對(duì)于有效值的正確表示,應(yīng)注意以下3點(diǎn):
①有效數(shù)字是指從左邊第一排非零的數(shù)字開(kāi)始,直到右邊最后一個(gè)數(shù)字為止的所有字。例如,測(cè)得頻率為0.0158 MHz,它是由l、5、8這3個(gè)有效數(shù)字組成的頻率值,而左邊的兩個(gè)零不是有效數(shù)字,它可寫(xiě)為1. 58×l0。2 MHz.也可寫(xiě)為15.8 kHz,而不能寫(xiě)15 800 Hz。
②如已知誤差,則有效值的位數(shù)應(yīng)與誤差相一致。例如,設(shè)儀表誤差為±0. 01 V,測(cè)得電壓為12. 354 V,其結(jié)果應(yīng)寫(xiě)成12. 35 V。
③當(dāng)給出誤差有單位時(shí),測(cè)量數(shù)據(jù)的寫(xiě)法應(yīng)與其一致。
(2)數(shù)字的舍入規(guī)則
為使正、負(fù)舍入誤差的機(jī)會(huì)大致相等,傳統(tǒng)的方法足采用四舍五人的辦法,現(xiàn)已廣泛采用“小于5舍,大于5人,等于5時(shí)取偶數(shù)”的辦法。
(1)有效數(shù)字
由于存在著誤差,因此,LMBT3904LT1G測(cè)量的數(shù)據(jù)總是近似值,它通常由可靠數(shù)字和欠準(zhǔn)數(shù)字兩部分組成。例如,由電壓表測(cè)得的電壓是24.8 V,這是個(gè)近似數(shù),25是可靠數(shù)字,而末尾8為欠準(zhǔn)數(shù)字,即24.8為3位有效數(shù)字。對(duì)于有效值的正確表示,應(yīng)注意以下3點(diǎn):
①有效數(shù)字是指從左邊第一排非零的數(shù)字開(kāi)始,直到右邊最后一個(gè)數(shù)字為止的所有字。例如,測(cè)得頻率為0.0158 MHz,它是由l、5、8這3個(gè)有效數(shù)字組成的頻率值,而左邊的兩個(gè)零不是有效數(shù)字,它可寫(xiě)為1. 58×l0。2 MHz.也可寫(xiě)為15.8 kHz,而不能寫(xiě)15 800 Hz。
②如已知誤差,則有效值的位數(shù)應(yīng)與誤差相一致。例如,設(shè)儀表誤差為±0. 01 V,測(cè)得電壓為12. 354 V,其結(jié)果應(yīng)寫(xiě)成12. 35 V。
③當(dāng)給出誤差有單位時(shí),測(cè)量數(shù)據(jù)的寫(xiě)法應(yīng)與其一致。
(2)數(shù)字的舍入規(guī)則
為使正、負(fù)舍入誤差的機(jī)會(huì)大致相等,傳統(tǒng)的方法足采用四舍五人的辦法,現(xiàn)已廣泛采用“小于5舍,大于5人,等于5時(shí)取偶數(shù)”的辦法。
熱門(mén)點(diǎn)擊
- 場(chǎng)效應(yīng)管轉(zhuǎn)移特性曲線
- 切斷電路板上銅箔線路方法
- 橋式整流、電容濾波電路故障檢修方法
- 單端輸入、雙端輸出式差分放大器負(fù)反饋電路故障
- 交流負(fù)反饋
- 檢查本振是否起振
- 消磁電阻器檢測(cè)方法
- 萬(wàn)用表檢修BTL功放集成電路故障
- 錄放開(kāi)關(guān)故障特征和修配方法
- 組合音響整機(jī)方框圖和單元電路作用
推薦技術(shù)資料
- 頻譜儀的解調(diào)功能
- 現(xiàn)代頻譜儀在跟蹤源模式下也可以使用Maker和△Mak... [詳細(xì)]
- 全集成直接飛行時(shí)間(dToF)傳感器
- 2025年半導(dǎo)體市場(chǎng)發(fā)展趨勢(shì)未
- GW2A系列FPGA芯片應(yīng)用參數(shù)
- DDR類(lèi)儲(chǔ)存器接口解決方案
- 2.5G bps MIPI D
- 新一代 Arora-V系列FPGA產(chǎn)品詳情
- 多媒體協(xié)處理器SM501在嵌入式系統(tǒng)中的應(yīng)用
- 基于IEEE802.11b的EPA溫度變送器
- QUICCEngine新引擎推動(dòng)IP網(wǎng)絡(luò)革新
- SoC面世八年后的產(chǎn)業(yè)機(jī)遇
- MPC8xx系列處理器的嵌入式系統(tǒng)電源設(shè)計(jì)
- dsPIC及其在交流變頻調(diào)速中的應(yīng)用研究