Cómo entregar una ilustración

Eso tendrás que preguntarlo a ellos. Pero también depende de a qué te refieras como ilustración.
Probablemente te refieres a una ilustración digital, y esta puede ser de dos tipos, pintura digital o ilustración de vectores.

Si es de vectores exporta tu ilustración, probablemente con fondo transparente por si la siguiente parte del proceso quiere jugar a poner un texto o fondo atrás.
Yo diría que exportaras con un tamaño del lado máximo de por lo menos 6000 pixéles. Ese es un número que me gusta mucho y es fácil de recordar.
Una cámara normal tiene 24 Mpx, por lo que el lado grande mide 6000px.
Esta imagen se puede ampliar a 50cm a 300ppi, o a I metro a 150ppi, lo que sigue siendo un tamaño perfecto.

En caso de que puedas, yo no pasaría nunca del doble, o sea de 12000px. No hay ningún caso que lo requiera.

Si es pintura digital el tamaño depende de la capacidad de tu computadora. Si la pintura la puedes hacer de ese tamaño, bien. Pero a veces el tamaño grande hace que los brushes se comporten torpemente, entonces hazla a la mitad 3000px del lado más grande y luego resamplea con un buen algoritmo. Yo estoy usando "Upsayl" upscayl.org

Entrega en RGB, si es transparente un PNG, Tiff o PSD están bien. Incrusta el perfil de color, normalmente va a ser sRGB.
Si es plano un JPG a la máxima calidad puede funcionar bien.

No conviertas a CMYK porque no sabes el perfil de color o el máximo TAC que necesiten.