Wygląda na to, że nie trzeba zmieniać nawiasów zamykających:
SELECT
PATINDEX('%[[]SQLSERV].DBNAME.DBO.[[][0-9a-zA-Z _-]%','ert[SQLSERV].DBNAME.DBO.[Table name]asdadsf')
powyższe zwraca 4.
Ponadto nie możemy dostosować znaku ucieczki w połączeniu z PATINDEX, tak jak możemy to zrobić z LIKE.