Можно использовать zcmp или zdiff как mreithub предполагает в его комментарии (или команда Kevin, которая подобна). Они будут относительно неэффективны, поскольку они на самом деле распаковывают оба файла и затем выдают их к cmp или diff. Если Вы просто хотите ответить, "они то же", Вы хотите cmp, это будет намного быстрее.

Ваш подход с md5sum совершенно хорошо, но необходимо взять MD5 перед выполнением gzip. Затем сохраните его в файле вместе с получающимся .gz файл. Можно затем сравнить файл легко, прежде, чем сжать его. Если имя является тем же, md5sum -c сделает это для Вас.

$ mkdir "backup1"
$ cd backup1
$ echo "test" > backup-file
$ md5sum backup-file > backup-file.md5
$ gzip -9 backup-file

И следующее резервное копирование:

$ mkdir "backup2"
$ cd backup2
$ echo "test" > backup-file
$ md5sum -c ../backup1/backup-file.md5 
backup-file: OK

Таким образом, это не изменилось. OTOH, изменили его:

$ echo "different" > backup-file
$ md5sum -c ../backup1/backup-file.md5 
backup-file: FAILED
md5sum: WARNING: 1 computed checksum did NOT match

Если Вы передаете --quiet к нему он просто даст Вам код выхода. 0 для подобранного, не0 для отличавшегося.

MD5 довольно быстр, но не ослепительно так. MD4 (openssl md4 является лучшим, Вы входите в командную строку, я верю), приблизительно вдвое более быстро (ни это, ни MD5 не безопасны, но оба о, чем коллизия, стойкая, когда никто не пытается ниспровергать их). SHA-1 (sha1sum) более безопасно, но медленнее; SHA-256 (sha256sum) безопасно, но еще медленнее все еще. CRC32 должен быть много раз быстрее, но короче и таким образом будет иметь более случайные коллизии. Его также совершенно небезопасный.

Сравнить два gzip файла, просто содержание, одна команда, нет diff, просто сравнение md5sum

$ diff -q <(zcat one.gz|md5sum|cut -f1 -d' ') \
          <(zcat two.gz|md5sum|cut -f1 -d' ') \
    && echo same || echo not_same

Можно также "отфильтровать" для соответствующих различий,

$ diff -q <(zcat one.gz|grep -v '^-- Dump completed'|md5sum|cut -f1 -d' ') \
          <(zcat two.gz|grep -v '^-- Dump completed'|md5sum|cut -f1 -d' ') \
   && echo same || echo not_same

При сценариях я рекомендовал бы функцию фильтра (не протестированный, просто пример),

do_filter_sum() {
  zcat $1 | grep -v '^-- Dump completed' | md5sum | cut -f1 -d' '
}

diff -q <(do_filter_sum one.gz) \
        <(do_filter_sum two.gz) \
        && echo same || echo not_same