Problem rozwiązany.
Przyczyna:używałem Non-Thread Safe php_mongodb.dll
, podczas gdy PHP zainstalowane przez XAMPP jest bezpieczne dla wątków.
Po zastąpieniu php_mongodb.dll
z wersją bezpieczną dla wątków nie ma błędu i mogę pomyślnie ukończyć instalację kompozytora.