Podés subir el HTML directamente, o bien un ZIP que tenga adentro un HTML llamado index, pero bajo ningún concepto Itch te acepta formato RAR.
Ah, quizá te faltó configurarlo. Fijate que, en las propiedades de tu proyecto, debajo de Clasificación Juegos, seguramente tenés Tipo de proyecto Descargable, y podés cambiarlo por HTML. Entonces, una vez que subas solo el archivo HTML (o un ZIP en lugar de RAR) se va a poder reproducir en navegador.
Intenté modificarlo para que se pueda jugar en el navegador pero no pude; subí el zip y cuando entré al juego me salió el siguiente mensaje; "There was a problem loading your project - Archives contains filename with non UTF-8 Encoded characters - please try deleting the ZIP file and uploading another one". Lo hice, revisé todos los archivos subidos buscando acentos o caracteres especiales, volví a comprimir, pero no funcionó. De la única manera que carga mi proyecto es si lo pongo "descargable".