findOneAndUpdate nie jest funkcją

Rozwiązaniem jest uruchamianie funkcji na modelu, a nie na jego instancji. Więc zamiast:

var NewUser = new User(req.user);
NewUser.findOneAndUpdate...

Zrób:

User.findOneAndUpdate...