Byłeś blisko. Zapytanie powinno wyglądać tak:
db.test.update({"city":"Palo Alto"},{"$pull":{"friends":{"name":"Frank"}}});
$pull pobiera obiekt, którego pole określa tablicę pól "friends" . Wartość {"name":"Frank"} reprezentuje zapytanie (do uruchomienia wewnątrz tablicy), aby znaleźć element do wyciągnięcia.