Możesz użyć części SET w LOAD DATA INFILE, i nie potrzebujesz rzeczy ucieczki 0x:
1, 1, 123456FF
2, 1, aabbcc
3, 1, ddeeff
Następnie przypisujesz kolumnę do zmiennej, a następnie ustawiasz kolumnę na wersję UNHEXed tej zmiennej:
LOAD DATA INFILE 'file' INTO TABLE `table` (column1, column2, @var1)
SET column3 = UNHEX(@var1)
