Józef Ulma był działaczem społecznym we wsi Markowa. Była to osobowość ponadprzeciętna, ciekawa życia i zaangażowana w wiele inicjatyw, a przy tym wszechstronnie utalentowana. Józef udzielał się jako bibliotekarz w miejscowym Kole Młodzieży Katolickiej, również jako działacz współpracującego ze Stronnictwem Ludowym Związku Młodzieży Wiejskiej. Był członek Związku Mszalnego Diecezji Przemyskiej oraz aktywistą Stowarzyszenia Młodzieży Katolickiej.

W wieku 21 lat został zmobilizowany do służby wojskowej. Służył w Grodnie w latach 1921-1922. Podczas swojej służby poznał Ukraińca Zachara Gryniuka, z którym utrzymywał przyjacielskie kontakty. Mając 29 lat uczęszczał do półrocznej szkoły rolniczej w Pilznie, którą ukończył z bardzo dobrym wynikiem. Następnie rozpoczął działalność w Związku Młodzieży Wiejskiej RP „Wici”, a w 1930 r. został przewodniczącym Komisji Wychowania Rolniczego. Należał do Kółka Rolniczego i Spółdzielni Zdrowia. Chwilowo był kierownikiem Spółdzielni Mleczarskiej w Markowej.
W 1935 roku ożenił się z 12 lat młodszą Wiktorią Niemczak.
W czasie wojny i okupacji niemieckiej Józef zaangażował się w pomoc potrzebującym Żydom. Możliwe że drugiej połowie 1942 r. wziął pod opiekę ośmioro żydowskich uciekinierów z rodzin Szallów i Goldmanów. Również pomógł innej żydowskiej rodzinie w pobliskim lesie wybudować ziemiankę, po czym zaopatrywał ich w żywność i niezbędne produkty. Ziemianka została odkryta przez okupanta, a ukrywające się tam osoby zostały zabite.
Wiosną 1944 r. Ukrainiec Włodzimierz Leś doniósł na Ulmów, że ukrywają Żydów. 24 marca 1944 roku niemiecka żandarmeria stacjonująca w Łańcucie rozstrzelała rodzinę Ulmów, jak i również ukrywających się Żydów.