Padre Iosif nasce a Berdičev. Conclude gli studi presso il seminario di Žitomir. Nel 1899 è ordinato sacerdote cattolico di rito latino. Esercita il ministero in varie località, dal 1925 è decano di Starokonstantinov. Il 19 dicembre 1929 viene arrestato in un villaggio nei pressi di Vinnica. È detenuto nelle prigioni di Kiev e Char’kov. Il 27 giugno 1930 è condannato a 5 anni di lager. Prima è inviato alla prigione politica di Jaroslavl’ e quindi, nel maggio del 1933, al lager delle isole Solovki.
Nel dicembre 1933 è inviato al confino in Asia centrale. Nel gennaio 1934 giunge a Čelgir, regione di Aktjubinsk. Il 28 gennaio 1935 è messo in libertà e può stabilirsi nel villaggio di Janov, regione di Vinnica, presso parenti. Nell’agosto 1935 si trasferisce nel villaggio Smela, regione di Kiev.
Alla fine del 1935 padre Iosif viene arrestato e condannato a 3 anni di confino nel territorio del Nord. Il 15 aprile 1936 giunge al villaggio di Žukovka, nei pressi di Joškar-Ola. Qui il 13 settembre 1937 è condannato alla pena capitale.
Padre Josif Krummel’ viene fucilato il 25 settembre 1937 nella prigione di Joškar-Ola.