1º Tenha um sistema Anti-malware em seu servidor WHM.
Eu recomendo e uso o Pyxsoft (http://www.pyxsoft.com/). Hoje a mensalidade para usar este plugin com direito a atualizações está em 10 dólares. O bom dele é que todo dia ele scaneia seu servidor em busca de malwares, e você pode apagar os arquivos infectados, coloca-los em quarentena ou mesmo dizer para o sistema que não se trata de malwares. Você recebe um e-mail todo dia com a lista de novas infecções para você decidir o que fazer.
2º Coloque um limite no envio de e-mails por hora.
O que tem dado certo para mim e deixar em 300 e-mails por hora. Antes estava 500, e acabei caindo na lista negra, tinha colocado 100, mas é muito pouco e me deu dor de cabeça, 300 esta sendo um bom número.
Para alterar o limite de envio de e-mails por hora no WHM acesse: Server Configuration >Tweak Settings
No campo Max hourly emails per domain coloque 300
Agora basta clicar em Save no fim da página.
3º Desative a opção que deixa seu servidor como um repetidor de e-mail
Repetidor de e-mail ou Open Relay é quando um outro e-mail pode usar seu servidor dizendo que o e-mail veio do seu servidor e não do servidor original. Exemplo: Eu mando um e-mail para um alguém com o e-mail vida@vida.com.br, mas uso um domínio em seu servidor para que o cliente pense que o e-mail veio de uma conta do servidor e não do vida@vida.com.br.
Para desativar, no seu WHM acesse: Server Configuration > Tweak Settings
No campo Initial default/catch-all forwarder destination escolha a opção Fail
Agora basta clicar em Save no fim da página.