Używając zmiennych i warunków możesz zresetować licznik na podstawie warunku (libraryId uległ zmianie). Obowiązkowe do zamówienia według kolumny libraryId.
SELECT books.*,
if( @libId = libraryId,
@var_record := @var_record + 1,
if(@var_record := 1 and @libId := libraryId, @var_record, @var_record)
) AS Ordinal
FROM books
JOIN (SELECT @var_record := 0, @libId := 0) tmp
ORDER BY libraryId;
Druga instrukcja if służy do grupowania dwóch przypisań razem i zwracania @var_record.
if(@var_record := 1 and @libId := libraryId, @var_record, @var_record)