W końcu znalazłem odpowiedź na mój problem. Teoretycznie długość geograficzna to oś x, a szerokość geograficzna to oś y. Ale jesteśmy przyzwyczajeni do szerokości-długości geograficznej, a nie długości-szerokości geograficznej... Więc sposób, w jaki szukałem, był zły
$near : [msg.lat, msg.lng]
Kiedy zmieniłem to na $near:[msg.lng, msg.lat] , zaczęło działać nawet przy 5KM... Więc zamawianie było problemem.