чат VOC++ раньше проблем не было, правдо система была Centos 5.3 а сейчас 5.5 httpd.conf и php.ini одинаковы, что были и ранее
Настраивал уже такой сервер людям...
Вам надо поставить nginx с взятым с офф сайта патч для nginx и скомпилировать все в ручную...
Также создать для nginx конфиг с ограничением по подключениям с одного IP.
Скорее всего Вас флудят...
А nginx-ом этот флуд можно прекратить быстро, ограничив подключения с одного IP...