Ponieważ nie masz unikalnego klucza, użyj ctid :
update medias m
set sort_order = new_sort_order
from (
select
ctid,
owner_user_id,
sort_order,
row_number() over w as new_sort_order
from medias
where visible
window w as (partition by owner_user_id order by sort_order asc, created_at asc)
) s
where m.ctid = s.ctid;
Uwaga, row_number() może być lepszy niż rank() jako pierwszy nigdy nie daje duplikatów.
