Ставь Ubuntu x64: выиграешь в объеме используемой ОЗУ + слабо заметное ускорение обмена 64/128битными данными (актуально в твоем случае).

CUDA на i3: рекомендую достать intel c compiler посвежее и перекомпилить софт для брутфорса, улучшение по сравнению с gcc будет на десятки процентов. Можно подписаться на триал на сайте интела.