Wygląda na to, że masz literówkę w mariadb definicja usługi:
ports:
- 3300:3306
Skonfigurowałeś mapowanie portów, aby kontener był dostępny pod adresem 3300 ale nie przekazałeś tych informacji do PHPMyadmin. W rezultacie próba połączenia po prostu wygasa.
Uwaga dodatkowa:w ogóle nie musisz ujawniać portu dla bazy danych - inne kontenery będą się z nią komunikować za pomocą wirtualnej sieci Docker, a do dostępu lokalnego możesz użyć docker container -it exec docker-compose exec db mysql...