Junto con su familia fundó uno de los primeros conjuntos totalmente conformado por personas de raza negra llamado Das Negertrio. Fue más popular en Europa que en su tierra natal.
Fue estudiante en el Conservatorio de Leipzig bajo la dirección de Carl Reinecke y Ignaz Moscheles.
Se convirtió en el primer compositor cubano en trabajar con la forma Lied.
Su padre era el violinista José Julián Jiménez quien, junto a su tía, la música y compositora Catalina Berroa, le enseñó música cuando era niño.
Fue amigo de Franz Liszt cuando estaba en la corte de Weimar.