У 1998 став начальником кабінету міністра закордонних справ, потім був призначений послом в Тель-Авіві (Ізраїль).
Стає постійним представником Словаччини в Європейському союзі в 2004.
З 1 жовтня2009 замінює Яна Фігеля як єврокомісар (від Словаччини) з освіти, навчання, культури та молоді. У другій Європейської комісіїБаррозу він займає посаду заступника голови ЄК і європейського комісару з питань інституціональних відносин та адміністрації.
У жовтні — листопаді 2012 тимчасово виконував обов'язки єврокомісара охорони здоров'я і споживчої політики.
Узяв участь у президентських виборах 2019 року й отримав 41,59 % голосів. Шефчовича в другому турі випередила жінка Зузана Чапутова, отримавши 58,41 % голосів виборців.
Особисте життя
Шефчович одружений і має трьох дітей.
Нагороди
Орден князя Ярослава Мудрого II ст. (Україна, 22 серпня 2020) — за вагомий особистий внесок у зміцнення міжнародного авторитету України, розвиток міждержавного співробітництва, плідну громадську діяльність[1].