Ну всё же лучше чуть-чуть заморочиться и почитать маны по тулзам

armitage nmap(в случае с армитаж не нужен) dnsmap patator hydra

все они только кажутся сложными, на самом деле это не так(ну если только чуть чуть)

Если на стороне самого сервера, то не плохо может помочь бэгдор weevely

https://github.com/epinna/weevely3

Его возможности:

Прочитай что такое iptables - это как раз для linux-серверов.

фаерволл не тестирует, он фильтрует просто.

Самое просто для тебя решение:

nmap --script vulners -sV -Pn 127.0.0.1

Посмотрите lynis, это скорее тесты конфигурации, но тоже не повредит.

Хорошая команда в linux-серверах

или так

показывает текущие интернет соединения всех программ,

запускать её нужно от рута.

т.е. эта команда может показать текущие соединения вируса или трояна.

netstat по умолчанию в дистрибутивах не идет уже, лучше использовать ss из пакета iproute2

рекомендую бесплатный скриптик для тестирования хостинга https://www.dfservice.com/perl-informer/ru/