Eita, se eu fosse você, implementava um novo servidor livre com solução livre de firewall, mas vc deve saber bem melhor que eu o que fazer nesse caso. Se isso for impossível existe uma solução livre para Windows mesmo baseada no do Freebsd, acho que chama wipfw, mas nunca testei só ouvi falar, tenho até receio de dizer que existe pois realmente desconheço.
Imaginei um novo servidor como firewall e primeira linha de defesa, depois talvez você possa usar winbind pra autenticar nesse engodo aí que você especificou. Novamente, estou falando de coisas que desconheço então desculpe se não ajudou.
Chapter*24.*Winbind: Use of Domain Accounts