Prawdopodobnie masz złą ścieżkę dla --with-pg-config , sprawdź, czy rzeczywiście tam jest.
Możesz znaleźć poprawną ścieżkę do pg_config z:
find /Applications -name pg_config
W najnowszej wersji Postgres.app ścieżka to:
gem install pg -- --with-pg-config=/Applications/Postgres.app/Contents/Versions/9.5/bin/pg_config
