L7-Filter

L7-Filter es un software para Linux que permite identificar el protocolo que se envía/recibe, a partir del contenido de los paquetes, para su tratamiento posterior con iptables (descartando los paquetes, por ejemplo) o ajustando prioridades con QoS.

Tiene buena pinta y existen paquetes para Debian pero el proyecto no parece muy activo porque su última versión es de 2011.