Nawiasy są ważne, dlatego spróbuj tego:
SELECT japanese
FROM edict
WHERE japanese LIKE CONCAT('%',
(SELECT japanese FROM edict WHERE english LIKE 'dog' LIMIT 1),
'%');
Być może dobrze byłoby nam jednak powiedzieć, jaki błąd wystąpił.