Похоже, что это нормальное поведение для клиента filezilla, независимо от того, подписан ли сертификат ЦС или сертификат является сертификатом x509 (самоподписанный сертификат - то, что я использовал в своем ftps настраивать). Неважно, используете ли вы ftp-сервер filezilla, vsftpd или любой другой ftpd.
Даже в руководстве Digicert показано, что это окно появляется при первом подключении:
https://www.digicert.com/ssl-certificate-installation-filezilla.htm