z jakiegoś powodu (może dlatego, że używam rubygems 1.3.7 lub instaluję mysql-2.8.1)
sudo gem install mysql -- --with-mysql-config=/usr/local/mysql/bin/mysql_config
nie działało dla mnie, więc po spojrzeniu na gems/mysql-2.8.1/ext/mysql_api/extconf.rb dowiedziałem się, że extconf.rb szuka w PATH dla mysql_config, więc spróbowałem
export PATH=$PATH:/usr/local/mysql/bin
sudo gem install mysql
i wykonał swoją pracę