Metoda AverageRating nie jest relacją i nie możesz jej używać jako relacji. Jeśli chcesz mieć średnią ocenę , ustaw AverageRating na dołączone atrybuty.
Course.php:
protected $appends = [
'average-rating'
];
function getAverageRatingAttribute(){
return round($this->rating()->avg('ratings'),1);
}