Jak połączyć funkcje agregujące w MySQL?

Musisz użyć podzapytań:

  SELECT x.user, 
         AVG(x.cnt)
    FROM (SELECT user, COUNT(answer) AS cnt
            FROM surveyValues 
           WHERE study='a1' 
        GROUP BY user) x
GROUP BY x.user

Nie możesz owinąć kruszywa innym kruszywem. Mógłbyś zawinąć analizę w agregację, gdyby MySQL obsługiwał funkcje analityczne/rankingowe/okienkowe...