Ok, myślę, że Twój problem polega na tym, że używasz AJAX do pobierania pliku.
Nie jest możliwe pobranie pliku za pomocą AJAX (a raczej - JS) w normalny sposób. Wiesz, jest zbyt duża dziura, żeby exploity na to pozwalały (tak mi się wydaje) – zresztą nie ma takiej możliwości.
Istnieją jednak obejścia. Jednym z nich jest dynamiczne tworzenie ukrytego iframe na stronie, a następnie zmiana jego lokalizacji na skrypt pobierania. Wtedy nie używasz JS do pobierania, ale zwykłe możliwości przeglądarki.
Inny sposób jest opisany na tej stronie:
http://www.filamentgroup.com/lab/jquery_plugin_for_requesting_ajax_like_file_downloads/
Może to będzie dla ciebie pomoc.