Położony przy Placu Wolności kościół świętych Piotra i Pawła zbudowany został dla Niemców wyznania ewangelicko-unijnego w latach 1872-1876 największego nasilenia walki rządu pruskiego z polskością w Wielkopolsce i na Pomorzu. Po upadku Niemiec w 1918 roku i odzyskaniu przez Polskę niepodległości, kościół ten nie będąc należycie wykorzystany do celów kultu religijnego, z powodu zbyt szczupłej garstki wiernych, a wobec narastających religijnych potrzeb katolików, już przed wojną miał być oddany do użytku wiernym Kościoła Rzymskokatolickiego, o czym głośno było w prasie miejscowej. To też już w pierwszych dniach po uwolnieniu Bydgoszczy od hitlerowskiego okupanta, w styczniu 1945 roku władze miejscowe w osobie Starosty i Prezydenta miasta, przekazały tę świątynię do użytku Kościoła katolickiego. Przejęcie i poświęcenie kościoła nastąpiło w dniu święta Matki Bożej Gromnicznej, dnia 2 lutego 1945 roku, dokonane zostało przez ks. Jana Konopczyńskiego, ówczesnego dziekana bydgoskiego. Odtąd stał się on jakby reprezentacyjnym kościołem miasta Bydgoszczy, a równocześnie kościołem szkolnym. Dekretem z dnia 24 sierpnia 1946 roku ustanawiającym na terenie miasta nowe parafie, erygowana została z dniem 1 października 1946 roku przez Władzę Duchowną przy tymże kościele parafia p.w. Św. Apostołów Piotra i Pawła jako wykrój z parafii farnej i Najświętszego Serca Pana Jezusa i parafii Św. Wincentego a Paulo. Pierwszym proboszczem parafii został ks. Stanisław Wiśniewski, proboszcz parafii Św. Michała w Gnieźnie. Kościół wskutek działań wojennych w roku 1945, doznał poważnego zniszczenia. Pociski artyleryjskie, przebiwszy strop u fasady kościoła, zdemolowały organy, powodując wielkie szczerby na jego wieży. Całkowity remont organów, naprawa okien i uszkodzonych witraży oraz okaleczeń ścian wewnątrz kościoła nastąpiły w październiku 1947 roku i to dzięki pomocy parafian, organizujących zbiórki i festyny dochodowe. Kościół zbudowany został w stylu historyzującym z użyciem form neoromańskich oraz częściowo neogotyckich, a pomieścić może 2500 osób. W kościele znajdują się organy o trzech klawiaturach konstrukcji mechanicznej i napędzie elektrycznym. Organy posiadają 42 głosy. Wielki ołtarz zbudowany został w 1957 r. przez miejscowego rzeźbiarza Sylwestra Fryskę, który również dokonał artystycznej przeróbki ambony i zbudował odpowiednią do całości balustradę. W ołtarzu znajduje się Madonna z roku 1854, arcydzieło pędzla Maksymiliana Piotrowskiego, Bydgoszczanina. Obraz ten znajdował się w kościele pojezuickim, który stał na Starym Rynku i został rozebrany przez hitlerowskich Niemców. W 1957 r. kościół otrzymał piękną polichromię wykonaną przez artystów malarzy Władysława Drapiewskiego z Pelplina i Leona Drapniewskiego z Poznania. Dla upamiętnienia uroczystości milenijnych chrztu Polski w roku 1966 zbudowana została chrzcielnica wykonana przez artystów rzeźbiarzy Mikulskiego i Mrowińskiego. Ich dziełem są także balustrady na chórze i balkonach oraz figury Św. Ap. Piotra i Pawła.