Upewnij się, że uruchamiasz to z normalnego wiersza poleceń, a nie z wiersza poleceń mysql. Więc tak:
C:\[path to mysqldump app] > mysqldump -u root -p root mydatabase > dumpfile.sql
nie
mysql > mysqldump -u root -p root mydatabase > dumpfile.sql