То что я вам предложил это комбайн. Есть можно настроить на любой системный ресурс.
Например - сделайте счетчик на команду free
типа
free | cut чегонибуть - > будем выводить занятую память.
и цепляем ее к rddtools -> получим график.
Но это не поможет, лучше настроить софт. На VPS обычно жрут память mysql и apache. Нужно ограничить потребление памяти ими.
Я обычно использую top или htop и смотрю сколько они потребляют щас и прикидываю сколько в пике. Лучше отказать в соединение клиенту, чем выжрать больше памяти.
Вот как пример помогающие скрипты для тюнинга mysql.
http://www.howtoforge.com/tuning-mysql-performance-with-mysqltuner