В целом, если Вы чайник в *NIX-платформах, то лучше не суйтесь, ибо, как написано выше, при первой проблеме, вы будете устанавливать всё с нуля с переустановкой ОСь, ибо не решите проблемы.
Windows + KMS давольно-токи не плохое решение, но если уж стоит Windows и почтовый сервер для офиса, для компании, то советую поставить и настроит exchange, и все плюшкии вкуснящки к нему. Для компании удачное решение.
Если всё таки *nix, то можно поставить на Linux и KMS, он есть, я в своё время ставил Keria Mail Server на CentOS 5.2 Решение не плохое, но тяжёлое
Есть бесплатные почтовые сервера, SendMail, PostFix, Exim, рекомендую именно PostFix, настраивается на ура, статей немерено в инете. Ставишь плюсом Dovecot или Courier-imap, чтобы собирать почту по pop3/imap и наслаждаешься. Проблем почти не бывает, у меня несколько лет работает PostFix+Couriar-imap+cirus-sasl+mysql+spamassasin+clamav и всё это на FreeSBD.
Работает супер.
так что, если Вы новичёк, то не лезте в UNIX-ы
Если бы знакомы с UNIX-ами, то пожалуйста в Linux
Если Вы продвинутый пользователь UNIX, то FreeBSD и на нём ручками, с командной строки настраивать PostFix или Exim.
Я в своём блоге начал писать статьи по FeeBSD, пожет кому и пригодится