А что говорит провайдер?
Он ведь тоже страдает.
Пусть покупает cisco guard какой-нибудь.

Клиент защититься не может на 100%

Если дос мелкий то можно Iptables ограничить по количеству пакетов. А если крупный то сервер просто под нагрузкой проляжет. Тут надо Cisco у провайдера включать в работу.

ну а так...любая оптимизация веб сервера, баз данных.
включение кеширующего веб сервера хуже не будет в любом случае.
почитайте про тюнинг TCP стека и тюнинг веб сервера.
тема обширная

Тема слегка не Линуксовая
Зато есть на форуме соответствующая социальная группа:
Антиддос
и соответствующий раздел:
Защита взлом
глядишь, уже и готовые ответы там найдёшь

Глупо защищаться от DDOS атаки на стороне клиента (если только от лёгкого флуда), защита тем эффективней чем ближе она к источнику, в данном случае попробуйте поговорить с вашим провайдером.

Анти Ddos

Мы как провайдеры просели разок когда нам заколбасили 500 мб
в 200 мб канал. Легла вся сеть естественно Guarda небыло.
Решение нашли такое - по Росии есть ребята, наверное уже известные можно им траф отдавать и забирать очищенный уже по туннелю, кстати они и по Linux вопросы решают.

Вот аська для связи с ними:

551992774 делают бесплатно на время пока тестят.
Потом возможно будет цена, но это лучше чем ничего.

тут почитать еще можно

_http://stopddos.ru/current/#cities_
_http://forum.searchengines.ru/showthread.php?t=210037_

это при наличии своей автономной системы

а какие именно ддос атаки нашли? что по этому поводу думает netstat -n на какой порт атака? С каким айпишников? какие правила в iptables?

Ddos на клиента

Если клиент цепанул хрень и на него льется траф без ограничения
клиенту справиться будет невозможно. Мы закрывали клиентский Ip у вышестоящего прова. Т.е канал просто забивается начисто.
Если зачищать трафик и получать чистый необходима хорошая железка
не уверен что Unix Linux смогут адекватно отбиваться. Атаки конечно разные бывают. Могут нагинать Web сервер, могут почту.
Типа валит куча пакетов на почтовик без передачи данных.
Такую хрень мы закрывали на сервере ручками.
Небольшие статьи может кому сгодиться:
http://articles.softportal.com/author-81.html