При использовании метода конечных точек измеряется отклонение произвольной точки характеристики (после коррекции усиления) от прямой, проведенной из начала координат. Таким образом в компании Analog Devices, Inc. измеряют значения интегральной нелинейности преобразователей, используемых в задачах измерения и управления (так как величина погрешности зависит от отклонения от идеальной характеристики, а не от произвольного "наилучшего приближения").

Метод наилучшей прямой дает более адекватный прогноз искажений в приложениях, имеющих дело с сигналами переменного тока. Он менее чувствителен к нелинейностям технических характеристик. По методу наилучшего приближения через характеристику передачи устройства проводят прямую линию, используя стандартные методы интерполяции кривой. После этого максимальное отклонение измеряется от построенной прямой. Как правило, интегральная нелинейность, измеренная таким образом, учитывает только 50 % нелинейности, оцененной методом конечных точек. Это делает метод предпочтительным при указании впечатляющих технических характеристик в спецификации, но менее полезным для анализа реальных значений погрешностей. Для приложений, имеющих дело с сигналами переменного тока, лучше определять гармонические искажения, чем нелинейность по постоянному току, так что для определения нелинейности преобразователя необходимость в использовании метода наилучшей прямой возникает довольно редко.

Другой тип нелинейности преобразователей — дифференциальная нелинейность (DNL). Она связана с нелинейностью кодовых переходов преобразователя. В идеальном случае изменение на единицу младшего разряда цифрового кода точно соответствует изменению аналогового сигнала на величину единицы младшего разряда. В ЦАП изменение одного младшего разряда цифрового кода должно вызывать изменение сигнала на аналоговом выходе, в точности соответствующее величине младшего разряда. В то же время в АЦП при переходе с одного цифрового уровня на следующий значение сигнала на аналоговом входе должно измениться точно на величину, соответствующую младшему разряду цифровой шкалы.

Там, где изменение аналогового сигнала, соответствующее изменению единицы младшего разряда цифрового кода, больше или меньше этой величины, говорят об дифференциальной нелинейной (DNL) погрешности. DNL-погрешность преобразователя обычно определяется как максимальное значение дифференциальной нелинейности, выявляемое на любом переходе.

Если дифференциальная нелинейность ЦАП меньше, чем -1 LSB на любом переходе (см. рис. 2.12), ЦАП называют немонотонным, и его характеристика передачи содержит один или несколько локальных максимумов или минимумов.

Дифференциальная нелинейность, большая чем +1 LSB, не вызывает нарушения монотонности, но также нежелательна. Во многих приложениях ЦАП (особенно в системах с обратной связью, где немонотонность может изменить отрицательную обратную связь на положительную) монотонность ЦАП очень важна. Часто монотонность ЦАП явно оговаривается в техническом описании, хотя, если дифференциальная нелинейность гарантированно меньше единицы младшего разряда (то есть, |DNL| < 1LSB), устройство будет обладать монотонностью, даже если это явно не указывается.

Бывает, что АЦП немонотонен, но наиболее распространенным проявлением DNL в АЦП являются пропущенные коды. (см. рис. 2.13). Пропущенные коды (или немонотонность) в АЦП столь же нежелательны, как немонотонность в ЦАП. Опять таки, это возникает при DNL > 1 LSB.

Определение отсутствующих кодов сложнее, чем определение немонотонности. Все АЦП характеризуются некоторым шумом перехода (transition noise), иллюстрируемым на рис. 2.14 (представьте себе этот шум как мелькание последней цифры цифрового вольтметра между соседними значениями).

По мере роста разрешающей способности диапазон входного сигнала, соответствующий уровню шума перехода, может достичь или даже превысить значение сигнала, соответствующее единице младшего разряда. В таком случае, особенно в сочетании с отрицательной DNL-погрешностью, может случиться так, что появятся некоторые (или даже все) коды, где шум перехода будет присутствовать во всем диапазоне значений входных сигналов. Таким образом, возможно существование некоторых кодов, для которых не существует значения входного сигнала, при котором этот код гарантированно бы появился на выходе, хотя и может существовать некоторый диапазон входного сигнала, при котором иногда будет появляться этот код.

Для АЦП с невысокой разрешающей способностью можно определить условие отсутствия пропущенных кодов как сочетание шума перехода и дифференциальной нелинейности, при котором гарантировался бы некоторый уровень (скажем, 0.2 LSB) свободного от шума кода для всех кодов. Однако при этом невозможно достичь столь высокой разрешающей способности, которую обеспечивают современные сигма-дельта АЦП, или даже меньшей разрешающей способности для АЦП с широкой полосой пропускания. В этих случаях производитель должен определять уровни шумов и разрешающую способность каким-нибудь другим способом. Не так важно, какой метод используется, но спецификация должна содержать четкое определение используемого метода и ожидаемые характеристики.

Погрешности по переменному току в преобразователях данных

В течение последнего десятилетия основное применение АЦП и ЦАП находят в дискретизации и восстановлении аналоговых сигналов переменного тока. Очень упрощенно, дискретная система — это система, где мгновенное значение сигнала переменного тока оцифровывается с периодическими интервалами. Полученные цифровые коды могут использоваться для сохранения формы сигнала (на компакт-дисках CD или цифровых магнитных лентах DAT), для сложных вычислений с отсчетами (цифровая обработка сигнала DSP), для фильтрации, компрессии и других операций. Обратная операция — восстановление — требуется, когда ряд цифровых кодов подается на ЦАП для восстановления формы аналогового сигнала. Здесь ярким примером является CD-или DAT-плеер, но эта технология очень широко используется также в телекоммуникациях, радио, синтезаторах и во многих других областях.