еще раз: дело не в битриксе, дело в сервере

"Не кодированая версия работает нормально, но её обнаруживают быстро это палево" - любое "кодирование" означает использование декорирующих функций типа gzinflate, которые бывают запрещены на некоторых серверах. Поэтому шелл и не работает. Внимательно изучи как кодируется шелл твоим кодировщиком, скорее всего "закодированный" код использует фукции, запрещенные на сервере. То же самое касается например вызова pcre_replace с /e модификатором в php 7.

И прочитай уже phpinfo на сервере, обрати внимание на disabled_functions