Nacido en una humilde familia del barrio madrileño de Chamberí, José Gallego pronto quedó huérfano, siendo criado por sus tíos. Estos tenían un negocio de Mercería y pudieron darle una educación digna al joven huérfano.

José Gallego comenzó los estudios de medicina cuando le llegó la carta temida carta por todos los jóvenes españoles de la época. Había sido reclutado. Debido a sus incipientes conocimientos médicos, fue asignado al cuerpo de Sanidad, siendo destinado en Melilla.

Allí, pronto sus superiores vieron sus capacidades y comenzó a trabajar asistiendo en diversas operaciones. El comandante Abadías le tomó como ayudante, asistiéndole en operaciones de paz y de guerra. Tras el desastre de Annual, pasó a trabajar para la BRIAAP tras los hechos acaecidos en el Blocao de Beni Said, en los que estuvo involucrado junto al comandante Abadías y los miembros de la BRIAAP.