ORA-01797:po tym operatorze musi wystąpić DOWOLNY lub WSZYSTKI błąd

Wystarczy użyć date słowa kluczowe i stałe ISO:

select *
from file_log f
where F.DCP_SRCE_FILENM_FK in ('ABC','DEF') and
      F.TRANS_DT >= date '2017-08-25' and
      F.TRANS_DT <= date '2017-08-30';

Otrzymujesz błąd, ponieważ w drugiej stałej brakuje elementu to_date() . Ale równie dobrze możesz użyć właściwej składni dla stałej daty.