采用全息相差校正技术制作变栅矩光栅,需用式(5)所示的台劳级数(即幂级数)展开式逼近栅距公式(2)。
由于工艺原因,目前国内只能取至3次项。显然,栅距公式的近似,必然导致栅距分布与(2)式有所差别,若按理想光栅的位移公式(3)计算,将会有位移误差产生,这种误差称为原理误差。
用幂级数光栅近似理想光栅,所产生的原理误差如下:
(6)
原理误差曲线如图2所示。

2、工艺误差
加工和装配中产生的位置偏差,如入射光束与不等距光栅表面的平行度,运动部件轨道与不等距光栅表面的平行度以及反光镜的角度偏差等工艺因素造成的偏差,最终都导致入射角发生偏差。
(1)对理想光栅产生的工艺误差
设入射角发生偏差后为q′,当基准波长l0不变时,由(3)式可知,理想光栅位移将发生变化。
以入射角发生偏差后的新零点位置作为光位移传感器的零位,其入射角偏差对理想光栅产生的工艺误差dxgn为:
(7)
可以看出,工艺误差符合线性分布规律。
(2)对幂级数光栅产生的工艺误差
入射角偏差对幂级数光栅产生的工艺误差dxmgn如下:
(8)
式中,f(d¢n)—(5)式中求解X¢n所得的函数,其中:

由此可得入射角为q′时,对应d¢n的位移X¢n;
f(d¢00)—入射角为q′时, d¢00对应的位移函数;
Xn—理想入射角q时对应dn的位移。
理想光栅和幂级数光栅工艺误差曲线如图3所示。
图(3)中曲线1为入射角正偏差对理想光栅产生的工艺误差,曲线2为入射角负偏差对理想光栅产生的工艺误差,曲线3为入射角正偏差对幂级数光栅产生的工艺误差,曲线4为入射角负偏差对幂级数光栅产生的工艺误差。
工艺误差还包括各种因素造成的入射狭缝光线与栅线不平行进而产生的位移误差,因相对而言影响较小,本文没有讨论。此外,因工艺因素造成的偏差所产生的位移误差,只要能较准确测出栅线密度方程,就可将其降低到最小。因此,本文中所说的工艺误差是指入射角偏差产生的误差。
3、测试误差
波长编码光位移传感器采用理想光栅时,其位移与对应中心波长成正比。由于光谱仪对被测光波长有一定的分辨率,无法指示比分辨率还小的波长变化,所以会产生测试误差。
(1)对理想光栅产生的测试误差
设用于测量波长的光谱仪分辨率为s=Dl,光谱仪分辨率对理想光栅产生的测试误差dXC如下: