Как найти шеллы, бэкдоры, эксплойты?

можно выполнить простой поиск дыр в безопасности grep или egrep:
[root@server ~]# egrep -rlZ -e "eval\(gzinflate\(" /path
[root@server ~]# egrep -rlZ -e "gzinflate" /path
[root@server ~]# egrep -rlZ -e "eval\(str_replace" /path
...поиск подобных конструкций....
[root@server ~]# grep -Rl "r57shell|c99madshell|eval\|base64_decode" /home

под /path имеется ввиду те места, в которые могли записать шеллы. Лучше от рута просканить /, но это будет долгий процесс, поэтому ищем в /home /tmp и прочих популярных папках с правами на запись 777

Как найти руткиты автоматически?

установить и настроить rkhunter — сканер, который обнаруживает руткиты

а также см tripwire — более тяжелый сканер, который может делать слепок файловой системы

Авторские права на представленный материал принадлежат администрации сайта http://chesser.ru, при копировании контента ссылка на источник обязательна.

Антивирусы в Linux

Антивирусов в линксах мало и они не очень распротранены.
Самый известный: clamav
Также можно попробовать поискать дистрибутивы под линукс на сайтах касперского и доктора веба.

также читайте статью про настройку ssh