Zakładając, że kolumna ma nazwę „id”, albo:
SELECT *
FROM tableA a
WHERE NOT EXISTS (SELECT 1 FROM tableB WHERE id = a.id)
lub
SELECT *
FROM TableA
WHERE id NOT IN (SELECT id FROM tableB)
Prawdopodobnie będziesz musiał przetestować, aby zobaczyć, który działa najlepiej. MySQL może być nieco nieprzewidywalny.