В итоге гугления наткнулся на инфу о том, что нужно компилить для поддержки нужного стандарта, возможно она неправильная была
За квест спасибо! В 3 ветках застрял на разных этапах, жутко интересно
Не, есть уже скомпиленный модуль gost.dll вместе с паком openssl, его просто через конфиг надо подключить.