Nienawidzę brzmieć jak zrzędliwy, stary naukowiec, ale teoria naprawdę jest tym, czego musisz się uczyć, jeśli jesteś zdeterminowany, aby zbudować własny RDBMS. Szczegóły implementacji są tak naprawdę tylko, erh, szczegółami implementacji. Oprócz podręczników możesz również przestudiować artykuły naukowe, które zwykle omawiają temat bardziej szczegółowo.
Kiedy zaczniesz implementować swój silnik bazy danych, możesz przyjrzeć się istniejącym implementacjom open-source, ale spodziewaj się, że krzywa uczenia się będzie stroma. Jak już zauważyłeś, projekty te bywają dość złożone. Jeśli masz konkretne pytania dotyczące tych projektów, spróbuj umieścić je na odpowiednich listach mailingowych. Jeśli masz konkretne pytania dotyczące własnej implementacji, zamieść je tutaj :)