Se habló hace tiempo sobre eso e incluso se legó a implantar (bueno, no del todo, pero parcialmente). Pero al final se quitó porque resultaria un foco de vulnerabilidades. La manera de implementar este tipo de cosas es ahora mediante External Connections v2.
Este es un protocolo de conexión a aMule. Es el que usan aMuleWeb, aMuleCMD, aMuleGUI, etc.
Deberás crear un programa que se conecte a tu aMule y vaya encuestando para ver si hay alguna descarga completada.
Esa es la manera correcta. La cutre es: Ir encuestando el directorio Incoming con un simple script de shell y cuando haya un archivo más, ejecutar un comando que envie un mail.
En estos foros existen scripts ya hechoes que realizan esta tarea. buscalos
un saludo!