Нельзя просто так взять и угадать структуру какого-то рандомного файла (тем более зашифрованного и если он не целиком и если это кеш, который может представлять из себя как дамп оперативки так и простенкую БД так что тогда придется сначала отреверсить сею БД. А может там не БД а файловая система ?).

Нужное направление - это поставить хук на CreateFile и ожидать когда приложение его откроет. После чего искать то место, где этот файл считывается и смотреть что там... Это лучше чем пытаться угадать что там напридумано глядя завороженными глазами на хексы