самое первое, что приходит в голову, это вести учет трафика (либо просто по правилу count, если Вы не мегапровайдер

, либо используя
всякие считалки), затем сделать простейшй скрипт-анализатор и в случае, если чей-то трафк превышает норму, динамически добавлять правило по урезанию канала. Скрипт, опять-таки, поскольку ситуация, если я правильно поняла, не очень критичная, можно поставить под крон