Actor mejor conocido por su papel de Bilbo Baggins en la saga de The Hobbit de Peter Jackson. También protagonizó The Hitchhiker's Guide to the Galaxy y la película del 2003 Love Actually. En el 2014 comenzó a interpretar a Lester Nygaard en la serie de FX, Fargo (season 1). En el 2018 apareció en la película de Marvel, Black Panther.
Cuando era joven, era asmático y tuvo que someterse a una operación quirúrgica en la cadera.
Interpretó al Dr. Watson en la adaptación de la BBC, Sherlock, por la cual ganó un Crime Thriller Award por Mejor Actor Secundario en el 2012.
Comenzó una relación con Amanda Abbington en el 2000 después de conocerla en el set de Men Only de Channel 4. Tuvieron un hijo llamado Joe y una hija llamada Grace antes de separarse en el 2016.
En el 2003 co-protagonizó The Office de la BBC junto a Ricky Gervais, la cual inspiró la producción estadounidense.