Раздели файл на более мелкие части на пример такой программой как Free File Splitter (если конечно hashcat-у не скормил без распаковки архива ).