Используйте GNU datamash
для группировки ввода по 2-му полю и сохраняйте только первую строку каждой группировки:
datamash -t':' -g 2 rmdup 2
Как отмечается в комментарии от don_crissti, sort
может сделать это, но хотя он возвращает желаемые результаты, он также может изменить порядок вывода:
sort -t':' -k 2,2 -u users.txt
Приведенный выше код предполагает, что users.txt отсортирован по 2-му полю, затем по первому.