Twój wynik w ACOS() jest większy niż 1 co nie może być.
Dzieje się tak z powodu niedokładności zmiennoprzecinkowej. może to być 1.00000001 na przykład. Umieszczając to trochę poniżej 1 działa tak:
SELECT ACOS(
(SIN(PI()* 52.9519918465976/180.0)* SIN(PI()* 52.9519918465976/180.0))
+ (COS(PI()* 52.9519918465976/180)*cos(PI()* 52.9519918465976/180.0)*COS(PI()* -1.14304013581239/180.0-PI()* -1.14304013581239/180.0))
- 0.0000001
)