一般数字示波器采用的都是8位 ADC ,对任何一个波形值都是用256个0和1来重组。假设当垂直档位为500mV/ div 时,ZDS示波器垂直方向有8格,则垂直精度为
(500mV*8)/256=15.625 mV 。测量同一个信号,在垂直档位为50mV/ div 的情况下,即
(50mV*8)/256=1.5625 mV ,垂直精度就达到了
1.5625 mV 。
时间:2019-10-19 05:19:21
一般数字示波器采用的都是8位 ADC ,对任何一个波形值都是用256个0和1来重组。假设当垂直档位为500mV/ div 时,ZDS示波器垂直方向有8格,则垂直精度为
(500mV*8)/256=15.625 mV 。测量同一个信号,在垂直档位为50mV/ div 的情况下,即
(50mV*8)/256=1.5625 mV ,垂直精度就达到了
1.5625 mV 。
数字万用表各指标含义:准确度(精度)分辨力(分辨率)测量范围--转
2024-03-22
如何提高lstm的预测精度_如何提高示波器的测试精度?五大因素助您了解!
2019-01-17