Nie możesz mieć przyłączenia w oświadczeniu aktualizacyjnym. Powinno być
update articles
set num_comments =
(select count (*) from comments
where comments.article_id = articles.id)
Spowoduje to zaktualizowanie całej tabeli artykułów, co może nie być tym, czego chcesz. Jeśli zamierzasz zaktualizować tylko jeden artykuł, dodaj klauzulę „where” po podzapytaniu.