Если система <= Sp2 то может помочь WMF-сплоит. Правда будет запускаться не всегда - а только когда смотриш папку в проводнике в режиме показывать эскизы...
Можно просто окна перебирать. Обычно в заголовке указывается путь если совпадает то папка открыта. читаеш заголовок функцией GetWindowText и сравниваеш а проще вообще получить хендл активного окна с помощью Getforegroundwindow() и проверить его заголовок.
Самый естественный способ - это запретить чтение данной директории любому пользователю кроме избранного. Таким образом для входа в директорию понадобится ввод пароля этого самого пользователя.
Иначе может быть только использование драйвера, как писал slesh