Где определяется формат файла контрольной суммы GNU?

Документация для утилит sha2 указывает на документацию для md5sum , в котором указано

Для каждого файла , ' md5sum ' по умолчанию выводит контрольную сумму MD5, пробел, флаг, указывающий двоичный или текстовый режим ввода, и имя файла. Двоичный режим обозначается « * », текстовый режим - «» (пробел). Двоичный режим используется по умолчанию в системах, где он важен, в противном случае текстовый режим используется по умолчанию. Если файл содержит обратную косую черту или новую строку, строка начинается с обратной косой черты, и каждый проблемный символ в имени файла экранируется обратной косой чертой, что делает вывод однозначным даже при наличии произвольных имен файлов.

Файлы контрольной суммы - это просто результат работы соответствующих утилит, поэтому в приведенном выше документе также указан их формат.