в чём разница между SMTP и Sendmail?

первое - протокол, второе - MTA. Как между ними можно вообще поставить «ИЛИ» ?

Чем VPS не подходит? Там тебе полноценный сервер, что хочешь, то и ставь, любой софт и скрипты.