全文预览

数值计算习题一

上传者:苏堤漫步 |  格式:doc  |  页数:4 |  大小:0KB

文档介绍
01-n 所以,具有四位有效数字的数0.3012,30.12=0.3012×102的相对误差限都为|er*|≤½x1×101-n=(1/2×3)×101-4=1/6×10-3。而具有五位有效数字的数30.120=0.30120×102的相对误差限都为|er*|≤½x1×101-n =(1/2×3)×101-5=1/6×10-4Р绝对误差限Р相对误差限Р有效数字位数Р0.3012Р×10-4Р1/6×10-3Р4位有效数字Р30.12Р×10-2Р1/6×10-3Р4位有效数字Р30.120Р×10-3Р1/6×10-4Р5位有效数字Р30120Р×100Р1/6×10-4Р5位有效数字Р0.3012×105Р×101Р1/6×10-3Р4位有效数字Р 2.用电表测得一个电阻两端的电压和流过的电流范围分别为V=(110±2)V,I=(20±0.5)A试由欧姆定律R=V/I求这个电阻R的近似值,并估算所得近似值的绝对误差与相对误差。Р 解:|e(V)|≤2,|e(I)|≤0.5,又R=V/I=5.5欧姆, R/ V=1/I, R/ I=-V/I2 Р所以: Р|e(R)|≈|R/V|(V,I)*e(V)+R/I|(V,I)*e(I)|≤|R/V|(V,I)*e(V)|+|R/I|(V,I)*e(I)|=5/10×2+110/400×0.5=0.2375Рer(R)=er(R)/R≈4.32%Р Р4、(1)1-cos1。(三角函数值取四位有效数字)Р解: Р∵1-cosx=2(sin)2Р∴1-cos1。=1-0.9998477Р =0.0001523 Р(4)X127Р解:РX127= X(126+1)=X×X126=X×X2×63Р=x1x2x4x8x16x32x64Р(5) Р解:Р= +++…+Р =1-+-+-+…+-Р =1-Р =(n取100)Р =100/101

收藏

分享

举报
下载此文档