Najpierw zwróć uwagę, że REGEXP_REPLACE może dopasować ciągi częściowo i nie potrzebujesz .* przed i po wyszukiwanym słowie.
\ char powinien być escapowany w celu zdefiniowania dosłownego ukośnika odwrotnego, ponieważ \ sam pozwala na ucieczkę znaków dla silnika MySQL. Zobacz tę dokumentację MySQL 8
:
Dlatego potrzebujesz
REGEXP_LIKE("aaa abc ccc", "\\babc\\b")