接手小球会利亚拿足球俱乐部的教鞭，并帮助该队历史性的获得联赛第五名的成绩。

2002年1月23日穆里尼奥担任波尔图足球俱乐部主教练，第一赛季穆里尼奥就带领波尔图夺得葡萄牙足球超级联赛冠军、葡萄牙杯冠军和欧洲联盟杯冠军。

第二年波尔图蝉联联赛冠军，2003/2004赛季欧洲冠军联赛，八分之一决赛，穆里尼奥带领波尔图两回合三比二战胜曼联晋级，半决赛两回合波尔图一比零战胜拉科鲁尼亚挺近决赛，2004年5月27日欧冠决赛，波尔图三比零完胜摩纳哥队夺得冠军，也是波尔图俱乐部历史上第二座欧冠冠军。

2004年6月2日穆里尼奥正式正式就任英超球队切尔西足球俱乐部主教练，当时英超联赛中以曼联和阿森纳两队最为强势，穆里尼奥一上任就扭转局面，2004/05赛季首场联赛切尔西即以一比零战胜曼联，更在当季带领切尔西赢得英超冠军，这也是切尔西时隔五十年再度赢得联赛冠军，成功打破由曼联和阿森纳长时间垄断英超的局面，并以三十八战二十九胜八和一负得九十五分及全季只失十五球，创出英格兰顶级联赛冠军的最高得分纪录，及英格兰顶级联赛失球最少记录，该赛季欧冠半决赛切尔西零比一不敌利物浦，遗憾止步决赛。

2005/06赛季穆里尼奥更率领切尔西在联赛首两个月就抛离其他英超对手，第三十七轮切尔西主场三比零完胜曼联，从而提前提前两轮夺得英超冠军，穆里尼奥完成了英超两连冠，超越温格从未在英超卫冕冠军的历史，穆里尼奥也当选英超赛季最佳教练，自此英国各界常以他与曼联主教练弗格森相比。在欧冠赛场八分之一决赛，切尔西两回合二比三不敌巴塞罗那，无缘八强。