Граждане, почему это выкидываешь оперативу ? Много лет тому назад появилась вещь под названием PAE, так вот она удачно пользуется во всех сборках Linux. Имея на борту более 4х гигов оперативы мы можем их все использовать, для убунты поставьте кренел big-mem, он решит Вашу проблему.
Брут очень специфичная задача, если знаете чем будете брутить, то скомпилив свежим компилятором повысите производительность и избавитесь от проблем. x64 не вижу смысла ставить, потому как прирост производительности мал, а размеры бинарников велики.