Mysql wybierz, gdzie nie ma w tabeli

Myślę, że twoje ostatnie oświadczenie jest najlepszym sposobem. Możesz też spróbować

SELECT A.*    
from A left join B on 
    A.x = B.y
    where B.y is null