Для проверки сертификата SMTP-сервера можно воспользоваться утилитой OpenSSL. Если вы хотите проверить сертификат с помощью STARTTLS, выполните следующую команду (заменив домен на нужный):
openssl s_client -connect mail.example.com:25 -starttls smtp
Или для стандартного защищенного порта:
openssl s_client -connect mail.example.com:465
Учтите, что openssl не поддерживает использование хранилища сертификатов Windows, поэтому проверка в Windows всегда будет неудачной.