Jak mogę zdefiniować typ w oracle11g, który odwołuje się do kolekcji tego typu?

Oracle nie skompiluje Twojej definicji, ponieważ typ Item nie został jeszcze skompilowany. Dlaczego nie spróbujesz:

Skompiluj to:

CREATE OR REPLACE TYPE Item;

CREATE OR REPLACE TYPE items_table IS TABLE OF REF item;

a następnie spróbuj:

CREATE OR REPLACE TYPE item AS OBJECT (
   id number,
   subitems items_table
)