Według dokumentacji , domyślnym symbolem cudzysłowu jest ", więc musisz podać argument QUOTE z innym symbolem. Symbol cudzysłowu musi być pojedynczym jednobajtowym znakiem.
COPY tbname FROM '/tmp/file.csv'
delimiter '|' QUOTE '}' csv; -- use a symbol you know does not appear in your file.