Jeśli nie chcesz (jawnie) używać tabel tymczasowych, to zadziała:
SELECT id FROM (
(SELECT 1 AS id) UNION ALL
(SELECT 2 AS id) UNION ALL
(SELECT 3 AS id) UNION ALL
(SELECT 4 AS id) UNION ALL
(SELECT 5 AS id)
) AS list
LEFT JOIN users USING (id)
WHERE users.id IS NULL
Jest jednak dość brzydki, dość długi i mam wątpliwości, jak by działał, gdyby lista identyfikatorów była długa.