Widzę, co było nie tak. Zamówienie należy złożyć do końca zapytania i tylko na końcu. Dało mi błąd, ponieważ wydawało się, że zapytanie zostało zakończone.
Select <column1>
,<column2>
,<aggregate column3>
From <Table1>
<Some joins in there>
Where <conditions>
group by <column2>, <column1>
union
select <column2>
,<column3>
,<aggregate column4>
From <Table2>
<Some more joins here>
Where <conditions>
group by <column2>, <column3>
order by <column2>
To załatwiło sprawę.