Finalmente no pude hacer la actualización de RAM de la consola, así que he tenido que dar unas cuantas vueltas hasta que por fin he dado con una configuración que me ha permitido mantener los requisitos de RAM adecuados a los 64 MB de la XBox. La solución ha sido compilar amule sin las X como demonio (amuled) y utilizar el "Amule Remote Control" (amule GUI). Ya con esto la mejora en uso de RAM era muy apreciable y el amule GUI va muy bien. Sin embargo aún gastaba más RAM de la recomendable. Cuando arrancaba el servicio el gasto era pequeño, pero según iban pasando las horas, amuled gastaba más y más RAM. La solución ha sido desactivar el KAD. Sospecho que el KAD en amule 2.1.2 debe de tener alguna fuga de memoria seria. Una vez desactivado el KAD, el consumo de RAM se mantiene muy estable, y el comando "ps -eo fname,vsz" suele darme valores de unos 40-45 MB, lo cuál está muy bien.
Una pena que no pueda activar el KAD, pero aún así la verdad que funciona muy bien. La subida es muy estable y las descargas no están nada mal.