Sterownik jtds nie ma takiej samej składni jak sterownik ms. Powinieneś wysłać nazwę instancji jako właściwość, np. tak:
"jdbc:jtds:sqlserver://localhost/master;instance=TESTDATA;..."
Zauważ również, że nazwa bazy danych jest wysyłana jako /master
zamiast jako własność. Powodzenia!