По началу думал проблема из-за БП, но нет для такого конфига он даже мощный. Но скорее всего по тихонько у тебя видюха накрывается. Проверь ее, на компе друго за тести.