Могу порекомендовать воспользоваться специализированными сервисами, например CloudFlare, который предоставляет базовую защиту от таких атак в бесплатном плане и не требует никакой конфигурации на стороне VPS.
