Musisz mieć pewność, że Twój SQL Server jest zainstalowany w języku angielskim. Gdy jesteś pewien, że funkcja konwersji powinna wykonać swoje zadanie
SELECT CONVERT(DATETIME, '02-Sep-2017')
A jeśli chcesz zamienić to w ciąg, który udostępniłeś:
SELECT CONVERT(VARCHAR, CONVERT(DATETIME, '02-Sep-2017'), 103)
Opis stylu tutaj