يذكر أن جوزيه جوميز بدأ مسيرته في التدريب في منتصف العشرينيات، عندما عمل كمساعد مدرب في أندية باسوش دي فيريرا وكوفيليا البرتغالية، كما عمل كمدرب للأحمال في عدة أندية مثل جيل فيسنتي وبنفيكا وبورتو بالبرتغال ومالاجا الإسباني وباناثينايكوس اليوناني.
وتولى جوزيه جوميز منصب المدير الفني لفريق فيدتوتون المجري وبعدها تولى تدريب التعاون السعودي، ثم انتقل لتدريب فريق أهلي جدة السعودي قبل أن يتولى تدريب فريق بني ياس الإماراتي، وعادمجدداً في نفس العام لقيادة التعاون
كما تولى جوميز تدريب ريو أفي، و بعدها قاد ماريتمو البرتغالي، ثم تولى القيادة الفنية لفريق ألميريا الإسباني، وعاد بعدها مجدداً للتعاون السعودي ، ثم تولى تدريب بونفيرادينا بالدوري الإسباني وخاض جوزيه جوميز آخر تجاربه التدريبية رفقة تشافيس البرتغالي الذي رحل عنه في سبتمبر الماضي.