أبو رجيلة ولد فى حى عابدين بالقاهرة، وانضم إلى ناشئى نادى الزمالك، وهو ابن الـ17 عامًا، ونال إشادة كبيرة من حلمى زامورا حينها، ليقوم حنفى بسطان بتصعيده إلى فريق الكرة الأول عام 1957.

قائد الزمالك الأسبق شارك فى أول مباراة أمام نادى الترسانة وفاز الأبيض بخمسة أهداف مقابل هدف، وحصل أبو رجيلة على 4 بطولات مع نادى الزمالك، بواقع بطولتا دورى، وبطولتا كأس مصر عام.

اعتزال أبو رجيلة كرة القدم عام 1967 واتجه بعدها للعمل فى مجال التدريب، وقاد الزمالك للفوز بأول بطولة أفريقية عام 1984 وفاز بالدورى العام مرة واحدة موسم 1984 كما فاز ببطولتى كأس مصر عام 1977 – 1999.

قاد أبو رجيلة العديد من الفرق بعد الزمالك، سواء داخل أو خارج مصر، ومنها الاتحاد السورى ونادى سترة ومنتخب اليمن، ونادى الشباب والنصر السعوديين، وحصل على أول بطولة دورى عام سعودى مع نادى النصر، وقاد داخل مصر كل من الألومنيوم والمصرى البورسعيدى والمنصورة.