)]×2} ×10-5 (11)Р至此,线性度自检操作结束。Р注:式(9)至式(1)-(11),实质是一样的,j和n对应关系也是一致的。实际计算是仅就有效数字进行。Р线性度(更正值)的计算Р 电位差计线性度实质是用更正值表来描述的。计算的目的就是获得这一系列的更正值。这一计算的理论方面这里不作阐述,仅就计算步序给予说明。Р 11-1.计算的原始数据:Р 以上测量和计算得到两大组数据Р 传递系数δΣj j=Ⅱ、Ⅲ…ⅦР 同盘线性度系数δij i=-1—10(20) j= Ⅰ、Ⅱ、Ⅲ、Ⅳ。Р 请注意的是,第Ⅳ盘δ-1Ⅳ按下式计算Р δ-1Ⅳ=-δΣⅤ(12)Р 以上两大组数据是计算出发点Р 计算在两种表格上进行,其一是盘间过渡表,用于计算过渡参数QΣj。另一种表格用于计算各盘更正值。Р 规程中列有相应表格,表格前部是从α到δ的计算;前已说明,这里不重叙,后部是从δ到ΔU(更正值)的计算。这里说的就是这一部分计算。Р 11-2.第Ⅰ盘的计算Р 10Р计算0.1ΣδiⅠ(i=1-10)之值。Р 1Р注意计算是从i从1到10之和,不包括-1之δ-1Ⅰ。误将其计入就出了错误。Р乘以0.1后计算到小数点后一位。(用×10-8计算)Р 10Р计算PiⅠ=δiⅠ-0.1ΣδiⅠ i=-1,1,2……20Р 1Р因QΣⅠ=0,故PiⅠ+ QΣⅠ= PiⅠР单一步进电压更正值ΔU iⅠ按下式计算РΔU iⅠ=(PiⅠ+ QΣⅠ)×0.1VР= PiⅠ×0.1VР= [PiⅠ] ×10-8×0.1VР=[PiⅠ](nV) (12)Р式中[PiⅠ]为PiⅠ的有效数字。例PiⅠ=8×10-8则[PiⅠ]=8РE.计算累加更正值РΔU -iⅠ=-[PiⅠ] (nV) (13a)РΔU iⅠ= [P1Ⅰ] (nV) (13b)Рn nРΣΔUiⅠ= Σ[P1Ⅰ] (nV ) n=2,3…20 (13c)
全文预览
