Byłeś blisko. Zapytanie powinno wyglądać tak:
db.test.update({"city":"Palo Alto"},{"$pull":{"friends":{"name":"Frank"}}});
$pull
pobiera obiekt, którego pole określa tablicę pól "friends"
. Wartość {"name":"Frank"}
reprezentuje zapytanie (do uruchomienia wewnątrz tablicy), aby znaleźć element do wyciągnięcia.