Rapolas Kalinauskas gimė 1835 m. rugsėjo 1 d. matematikos profesoriaus Andriaus Kalinausko ir Juzefos Polonskos šeimoje. Pakrikštytas Juozapo vardu. Motina mirė praėjus kelioms savaitėms po jo gimimo ir mažąjį Juozapą auklėjo teta Viktorija. Sulaukęs devynerių metų pradėjo mokytis Vilniaus Aukštuomenės institute, kuriame profesoriavo jo tėvas. Juozapas pasižymėjo gabumais ir pavyzdingu elgesiu.
1851 m. pradėjo studijas Žemės ūkio akademijoje Gori-Gorkuose, bet vėliau perėjo į Peterburgo Karo ir Inžinerijos akademiją, kurią baigė 1859 m. leitenanto laipsniu. Trumpai tarnavo carinėje kariuomenėje, iš kurios pasitraukęs įsitraukė į 1863 m. Lietuvos ir Lenkijos sukilimą. Vilniaus srityje tapo karo ministru. 1864 m. pavasarį caro kariuomenės buvo suimtas ir nuteistas mirties bausme, tačiau aktyvių tėvo pastangų dėka bausmė pakeista tremtimi į Sibirą. Su daugeliu kitų tremtinių Kalinauskas pateko į Usolės druskos kasyklas. 1866 m. balandžio 16 d. amnestija atleistas nuo katorgos darbų, o 1868 m. ir nuo visų priverčiamųjų darbų, iki 1872 m. gyveno tremtyje Irkutske. Dalyvavimas sukilime ir sunkūs katorgos metai ženkliai pakeitė Kalinausko dvasią, pagelbėjo naujai atrasti Dievą, kančia išmokė melstis ir būti jautriu kito žmogaus skausmui. Po amnestijos Juozapas pradėjo mokyti tremtinių vaikus ir pagelbėjo garsiajam Sibiro klebonui tėvui Kristupui Švernickiui rengti juos Pirmajai Komunijai. Draugystės su t. Kristupu dėka gyveno turtingą dvasinį gyvenimą, daug skaitydavo teologinės literatūros, dažnai priimdavo sakramentus.
1872 m. išvyko į Permę, vėliau persikėlė į Smolenską, kur 1874 m. sulaukė laisvės dekreto. Galėjo persikelti į Lenkiją, bet neturėjo teisės gyventi Lietuvoje. Atvykęs į Varšuvą, gavo pasiūlymą būti kunigaikščio Vladislovo Čartoryskio, gyvenusio emigracijoje Paryžiuje, sūnaus Augusto auklėtoju. Paryžiuje Kalinauskas užsibuvo neilgai, nes dėl jaunojo auklėtinio ligos teko daug keliauti. Trejetą metų jis gyveno įvairiuose miestuose ir vietovėse Šveicarijoje bei Italijoje. Tuo metu Juozapas stengėsi perteikti Augustui aukščiausius dvasingumo idealus ir mokė fizikos bei matematikos. Kiekvieną dieną dalyvaudavo šv. Mišiose, daug meldėsi, studijavo šv. Augustino, šv. Teresės, šv. Kryžiaus Jono bei kitų dvasios mokytojų veikalus. Daug bendraudamas su įvairių vienuolijų nariais, domėjosi vienuoliniu gyvenimu.
1877 m. liepos 15 d. Kalinauskas įstojo į basųjų karmelitų vienuoliją ir pradėjo noviciatą Grace, Austrijoje. Lapkričio 26 d. buvo įvilktas į karmelitų abitą ir gavo vienuolio vardą – tapo brolis šv. Juozapo Rapolas. Po pirmųjų įžadų išsiųstas į konventą Raab Vengrijoje teologijos bei filosofijos studijų. 1881 m. lapkričio 27 d. davė amžinuosius įžadus ir po to išvyko į vienintelį po vienuolynų naikinimo Lenkijoje išlikusį karmelitų vienuolyną Černoje prie Krokuvos. Čia 1882 m. sausio 15 d. gavo kunigystės šventimus.
Tapęs kunigu, tėvas Rapolas 25 metus ėjo daug atsakingų pareigų provincijoje ir vienuolynuose – buvo Černos vienuolyno vyresniuoju, provincijos patarėju, basųjų karmeličių provincijos vikaru, vienuolyno Vadovicuose steigėju ir vyresniuoju. Išsiskyrė pamaldumu, apaštaliniu uolumu, buvo vertinamas kaip geras dvasios vadovas. Rodė vienuolinio gyvenimo pavyzdį, rūpestingai tvarkė vienuolyno reikalus, stengėsi kuo tobuliau atlikti patikėtas pareigas.
Mirė 1907 m. lapkričio 15 d.
Popiežius Jonas Paulius II tėvą Rapolą beatifikavo Krokuvoje 1983 m. birželio 22 d., o kanonizavo Romoje 1991 m. lapkričio 17 d.