Файрволы установлены, виндовый файрвол? Пропатч на максимальное количество одновременных полуоткрытых соединений [half-open.com/home_ru.htm]. В конце концов запускай на дедике.