Larsen ble tatt opp som aspirant i UD i 1995. Han har tjenestegjort ved representasjonskontoret i Al Ram og representasjonskontoret i Gaza, vært ambassadør i Madrid og avdelingsdirektør i Utenriksdepartementet. Før han ble utnevnt til ambassadør i Berlin, var Larsen assisterende utenriksråd.
I perioden 2015–2017 var Larsen leder av generalsekretærens stab i Nato.
Larsen har også bakgrunn som spesialrådgiver i Statoil, Nupi og Noref (Norsk senter for konfliktløsning). Han har tidligere jobbet i Dagbladet som avdelingsleder i samfunnsavdelingen og debattredaktør.
Larsen var statssekretær i UD fra 2011 til 2013. (Regjeringen)