數(shù)據(jù)運算規(guī)則
發(fā)布時間:2014/4/2 22:20:02 訪問次數(shù):2633
(1)加減法運算規(guī)則
幾個準確度不同的數(shù)據(jù)相加、相減時,按取舍規(guī)則,將小數(shù)位數(shù)較多的數(shù)簡化為比小數(shù)位數(shù)最少的數(shù)只多一位數(shù)字的數(shù), LMBT5550LT1G然后計算,計算結(jié)果的小數(shù)位數(shù),取至與原小數(shù)位數(shù)最少的數(shù)相同。
(2)乘除運算規(guī)則
兩個有效位數(shù)不同的數(shù)相乘或相除時,將有效數(shù)字位數(shù)較多的數(shù)的位數(shù)取為比另一個數(shù)多一位,然后進行計算,求得的積或商的有效位數(shù),應(yīng)根據(jù)舍入規(guī)則保留與原有效數(shù)字位數(shù)少的數(shù)相同。
為了保證必要的精度,參與乘除運算的各數(shù)及最終運算結(jié)果也可比有效數(shù)字位數(shù)最少者多保留一位有效數(shù)字。
(3)乘/開方運算
進行乘/開方運算時,底數(shù)/被開方數(shù)有幾位有效數(shù)字,運算結(jié)果多保留一位有效數(shù)字。
(4)對數(shù)運算規(guī)則
數(shù)據(jù)進行對數(shù)運算時,幾位數(shù)字的數(shù)值應(yīng)使用幾位對數(shù)表,以免損失準確度。
(1)加減法運算規(guī)則
幾個準確度不同的數(shù)據(jù)相加、相減時,按取舍規(guī)則,將小數(shù)位數(shù)較多的數(shù)簡化為比小數(shù)位數(shù)最少的數(shù)只多一位數(shù)字的數(shù), LMBT5550LT1G然后計算,計算結(jié)果的小數(shù)位數(shù),取至與原小數(shù)位數(shù)最少的數(shù)相同。
(2)乘除運算規(guī)則
兩個有效位數(shù)不同的數(shù)相乘或相除時,將有效數(shù)字位數(shù)較多的數(shù)的位數(shù)取為比另一個數(shù)多一位,然后進行計算,求得的積或商的有效位數(shù),應(yīng)根據(jù)舍入規(guī)則保留與原有效數(shù)字位數(shù)少的數(shù)相同。
為了保證必要的精度,參與乘除運算的各數(shù)及最終運算結(jié)果也可比有效數(shù)字位數(shù)最少者多保留一位有效數(shù)字。
(3)乘/開方運算
進行乘/開方運算時,底數(shù)/被開方數(shù)有幾位有效數(shù)字,運算結(jié)果多保留一位有效數(shù)字。
(4)對數(shù)運算規(guī)則
數(shù)據(jù)進行對數(shù)運算時,幾位數(shù)字的數(shù)值應(yīng)使用幾位對數(shù)表,以免損失準確度。
上一篇:等精度測量結(jié)果的處理
熱門點擊
- 熱風槍拆卸貼片集成電路方法
- 數(shù)據(jù)運算規(guī)則
- 串聯(lián)負反饋電路的特征
- 二極管選配方法和更換方法
- 電烙鐵安全操作注意事項
- 中頻變壓器諧振頻率調(diào)整方法
- 二極管主要參數(shù)
- 雙卡錄音座方框圖及各單元電路作用
- 變?nèi)荻䴓O管等效電路
- 行輸出三極管電流測量方法
推薦技術(shù)資料
- 自制經(jīng)典的1875功放
- 平時我也經(jīng)常逛一些音響DIY論壇,發(fā)現(xiàn)有很多人喜歡LM... [詳細]
- 新品4MP圖像傳感器̴
- 高性能SoC智能傳感芯片技術(shù)設(shè)
- 分立器件&無源元件選型參數(shù)技術(shù)
- SRAM存算一體芯片發(fā)展趨勢及市場應(yīng)用
- 大功率雙向 48 V-12 V DC/D C
- 單速率(Single Rate
- 多媒體協(xié)處理器SM501在嵌入式系統(tǒng)中的應(yīng)用
- 基于IEEE802.11b的EPA溫度變送器
- QUICCEngine新引擎推動IP網(wǎng)絡(luò)革新
- SoC面世八年后的產(chǎn)業(yè)機遇
- MPC8xx系列處理器的嵌入式系統(tǒng)電源設(shè)計
- dsPIC及其在交流變頻調(diào)速中的應(yīng)用研究