Josef Gihl stammte aus Lindforst, einem Ortsteil der Gemeinde Schwarzach in Niederbayern. Laut Verlustlisten des Ersten Weltkriegs lebte er zuletzt in Obermühlbach, heute ein Ortsteil von Neukirchen in Niederbayern. Sein Vater war Gastwirt.
Im Ersten Weltkrieg diente er in der 2. Kompanie des 10. bayerischen Infanterie-Regiments als Soldat und Infanterist. Er erkrankte an Genickstarre und einer doppelseitigen Lungenentzündung und verstarb am 20.07.1917 im Kriegslazarett Labry. Seine Gebeine wurden auf dem Soldatenfriedhof Labry im Block 2, Grab 100, begraben. Er wurde nur 19 Jahre alt.