В методе, использующем ортогональные преобразования, сжатие данных достигается за счет того, что спектральные коэффициенты, энергия которых мала, квантуются на меньшее число уровней, а, следовательно, на их представление затрачивается меньшее число двоичных единиц кода, чем на представление спектральных коэффициентов с большой энергией.

Рассмотрим задачу распределения двоичных единиц кода между спектральными коэффициентами , при котором обеспечивается наименьший средний квадрат шума преобразования , обусловленного квантованием (или отбрасыванием) спектральных коэффициентов. Будем считать, что сжимаемое изображение является черно-белым полутоновым, а также, что нам заданы: размер блока , требуемый коэффициент сжатия  и значения средних квадратов спектральных коэффициентов .

Решение задачи начнем с того, что определим вначале число двоичных единиц кода , которым мы располагаем при заданном коэффициенте сжатия и которое нам предстоит распределить между спектральными коэффициентами блока. Исходя из того, что для представления каждого пиксела в блоке исходного черно-белого полутонового изображения требуется один байт, т.е. 8 двоичных единиц, найдем, что для представления всего блока без сжатия расходуется  двоичных единиц кода. Отсюда следует, что при заданном значении коэффициента сжатия  мы располагаем количеством двоичных единиц кода, которые и должны распределить между спектральными коэффициентами.

Как уже указывалось, средний квадрат шума квантования прямо пропорционален среднему квадрату квантуемого сигнала. Применительно к рассматриваемому случаю это значит, что средний квадрат шума квантования спектрального коэффициента  будет равен

,                        (3.11)

где  - средний квадрат шума квантования сигнала на  уровней, при условии, что средний квадрат самого квантуемого сигнала равен единице, а распределение его по яркости описывается плотностью вероятности ,  - число двоичных единиц кода. Средний же квадрат шума преобразования (квантования), равен сумме средних квадратов шумов, возникающих при квантовании каждого спектрального коэффициента

.                                        (3.12)

Для того, чтобы обеспечить минимальное значение , поступим следующим образом. Вначале выделим для представления каждого спектрального коэффициента нулевое количество двоичных единиц кода и найдем значения средних квадратов шумов квантования, которые при этом возникают. Поскольку в этом случае мы совершили усечение (отбрасывание) спектральных коэффициентов, значения средних квадратов шумов квантования будут равны средним квадратам самих спектральных коэффициентов, т.е. , а  - их сумме. Далее, выбираем из всех значений  самое большое, выделяем спектральному коэффициенту, которому соответствует это самое большое значение среднего квадрата шума квантования, одну двоичную единицу кода, уменьшаем  на единицу и рассчитываем для него по формуле (3.11) новое значение среднего квадрата шума квантования . После этого снова сравниваем между собой все значения , опять находим наибольшее и снова выделяем одну двоичную единицу кода наиболее “шумящему” спектральному коэффициенту, уменьшая при этом  на единицу. Так повторяем до тех пор, пока не будут израсходованы все двоичные единицы кода . Как не трудно видеть, при таком распределении двоичных единиц мы обеспечиваем минимальный уровень шума преобразования. Заключительным этапом описанной процедуры является объединение спектральных коэффициентов, для представления которых выделено одинаковое количество двоичных единиц кода, в зоны.

Обратим внимание, что описанный метод распределения двоичных единиц кода между спектральными коэффициентами еще не гарантирует минимальной заметности шума преобразования на изображении после его декодирования. Объясняется это тем, что различные спектральные компоненты различно воспринимаются зрительной системой. Поэтому для того, чтобы достичь минимальной заметности шума преобразования на декодированном изображении, описанную процедуру необходимо выполнять, используя для этого не средние квадраты шума квантования, а их средневзвешенные значения.

Рассмотрим, как проявляется шум квантования, а также внешний шум на декодированных изображениях. Поскольку результирующий уровень шума преобразования является результатом одновременного воздействия всех шумовых компонент, возникающих при квантовании спектральных коэффициентов, то в силу центральной предельной теоремы его распределение будет близким к нормальному. Так как средние квадраты шума квантования всех спектральных коэффициентов близки между собой вследствие примененной стратегии распределения двоичных единиц, его спектральный состав будет близок к спектральному составу квазибелого шума. Что же касается проявления на изображении внешней помехи при его передаче по каналу связи в сжатом виде, то здесь все зависит от ее характера. Например, редкая импульсная помеха проявляется в том, что отдельные блоки изображения передаются неверно, поэтому на них пропечатываются базисные изображения, соответствующие тем спектральным коэффициентам, которые были переданы с ошибкой.