↑
Ну... в таком примерно порядке.
1) Бьерн Страуструп. Язык программирования С++
2) Калашников О. Ассемблер-это просто. Учимся программировать.
3) М. Руссинович, Д. Соломон. Внутреннее устройство Microsoft Windows.
4) Олифер. Компьютерные сети. Принципы, технологии, протоколы.
5) Rootkits. Subverting the windows kernel.
6) Hacking. The art of exploitation.
7) Маны по работе с дизассемблером и отладчиком. Нормальной книги по ним нет, надо все искать по кусочкам. Что-то можно найти по автору "Крис Касперски", что-то на сайте со скриптами к Olly и Immunity. Что-то просто из кода.
8) К этому моменту уже найдешь и самостоятельно что почитать.
Breaking the sandbox. | Malware analyst's cookbook. | Practical malware analysts. | The Art of memory forensics. | e.t.c
И вот тогда будешь знать что искать, где искать и как искать.
.... может быть...