Se hizo conocido como el esposo de Harriet Nelson en The Adventures of Ozzie and Harriet, una serie de radio y televisión.
Mientras estaba en la universidad, se ganó la vida tocando el saxofón y entrenando fútbol americano. Financió su banda coleccionando las primeras páginas de periódicos y retornándolas a las oficinas de periódicos como no vendidas.
En 1935 Ozzie Nelson y su orquesta lanzaron "And Then Some," que se convirtió en un éxito #1 por una semana en el listado de sencillos de Estados Unidos.
Se casó con la vocalista Harriet Hilliard en 1935 y tuvieron un hijo llamado David en 1936 y otro llamado Eric "Ricky" en 1940.
Su hijo Ricky Nelson apareció en la serie de comedia con él y más tarde se convirtió en un famoso cantante y actor.