Możesz użyć wyrażenia w ORDER BY. Spróbuj tego:
SELECT *
FROM comments
ORDER BY IF(ParentId = 0, Id, ParentId), Id
Najpierw zostanie posortowane według identyfikatora, jeśli ParentId =0, lub według ParentId w przeciwnym razie. Drugim kryterium sortowania jest identyfikator, aby zapewnić, że odpowiedzi są zwracane w kolejności.