Dzieje czerniowieckiej parafii Najświętszego Serca Jezusowego wiążą się ściśle z obecnością jezuitów w tym mieście. Za początek działalności duszpasterskiej można uznać rok 1885, kiedy arcybiskup Zygmunt Szczęsny Feliński ofiarował jezuitom swój dom. Jezuici otworzyli tam kaplicę, w której głosili kazania po polsku i niemiecku. W 1894 roku o. Franciszek Eberhard SJ (1844-1905) po czteroletniej budowie wykończył kościół oraz wybudował gotycki dom na rezydencję. Kościół został poświęcony 25 października 1894 roku przez arcybiskupa Seweryna Morawskiego.
Wybudowawszy kościół oraz dom zakonny jezuici w Czerniowcach mogli rozwinąć swoją działalność: m.in. przejęli katechizację w szkołach ludowych, a także założyli Kongregację Mariańską oraz prowadzili misje ludowe. Podczas I wojny światowej Bukowina była teatrem wojennym, tędy przechodził front, a samo miasto przechodziło z rąk do rąk. W 1916 r. Czerniowce zajęli Rosjanie, a dwa lata później stało się ono częścią Rumunii.
W 1924 r. w związku z nową sytuacją polityczną ówczesny Przełożony generalny jezuitów o. Włodzimierz Ledóchowski SJ utworzył misję rumuńską, do której włączył czerniowieckich jezuitów. Jezuici pracowali tu aż do 1944, kiedy to aresztowano ostatniego proboszcza o. Władysława Kumorowicza SJ. O. Kumorowicz został zesłany do Mongolii, a następnie do Kazachstanu. Do Polski wrócił na fali repatriacji w 1956. W 1961 r. został przełożonym wspólnoty jezuickiej oraz parafii w Bytomiu, ale we wrześniu tego samego roku zginął potrącony przez samochód. Sam Kumorowicz zapisał się w historii czerniowieckiej parafii oraz archidiecezji lwowskiej jako gorliwy proboszcz oraz ten, który w 1939 r. organizował pomoc dla uchodźców z Polski. Od 1941 był wikariuszem generalnym dla Bukowiny.
Kiedy ta część Bukowiny stałą się częścią Ukraińskiej Republiki Radzieckiej, kościół został definitywnie skonfiskowany. Krótki czas służył jako cerkiew prawosławna, po czym został przekształcony na archiwum.
Kościół udało się odzyskać w 2010 r. i obecnie przechodzi kapitalny remont, by przywrócić mu chociaż kawałek dawnego blasku.
