На самом деле память ест не Webmin, а процесс lookup-domain.pl, который используют службы почтового сервера. При большой загруженности почтового сервера получается следующая картина:
Первый способ (не помогает):
Нужно в System Settings -> Virtualmin -> Config -> Spam Filtering установить значение …