Там может быть, и скорей всего и есть, проверка контрольной суммы SHA1/SHA256 сертификата, и тупая подмена его не поможет.

Имхо, самый просто вариант, поставить хук на вызов библиотечной функции из OpenSSL или виндового CryptoApi/WinAPI, смотря что программа использует, и возврат своего результата. Но это конечно придется подгружать свою либу в процесс, искать в импорте соответствующие вызов функций, и прочие прочие мелочи. Есть программа EchoMirage - http://www.woodmann.com/collaborative/tools/index.php/Echo_Mirage, и она работает подобным образом.