Die Kirche am Zentralfriedhof ist ein Werk des Wiener Jugendstilarchitekten Max Hegele und gilt als einer der bedeutendsten Sakralbauten dieser Epoche. Die Glasfenster und die Wandmosaike mit Darstellungen der vier Evangelisten stammen von Leopold Forstner, der auch die Eingangsbereiche zu den Seitenkapellen gestaltete.
Unter dem Hauptaltar befindet sich die Gruft des 1910 verstorbenen Wiener Bürgermeisters Karl Lueger: Er hatte zwei Jahre zuvor den Grundstein für die Kirche gelegt, weshalb sie auch unter dem Namen Lueger-Gedächtniskirche bekannt ist. Auf Luegers Wunsch hin wurde das Gotteshaus nach seinem Namenspatron Karl Borromäus benannt.
1995 wurde die Kirche umfassend saniert und restauriert. Bei diesen Arbeiten wurde auch der Originalzustand der Kuppel mit ihrem Sternenhimmel aus rund 21.000 Mosaikteilen wieder hergestellt.
Die Friedhofskirche gehört formell der Gemeinde Wien. Das Gotteshaus wurde aber der katholischen Kirche zur Verwaltung und Benutzung übergeben und steht auch allen anderen christlichen Konfessionen für Begräbnisfeiern zur Verfügung.
Zum 100-Jahr-Jubiläum findet am Dienstag nach Pfingsten, 14. Juni 2011 , ab 19 Uhr ein Festakt in der Friedhofskirche statt. Zunächst erfolgt eine Segnung durch Kirchenrektor Karl Wagner und ab 19.15 Uhr ein Konzert der "Favorythm Gospel Singers", die Hits wie "Bridge over troubled Water", "Stand by me" oder "I Say a Little Prayer" darbieten. Der Eintritt ist frei.
Die Karl-Borromäus-Kirche bildet das Herzstück des Wiener Zentralfriedhofs, der mit einer Fläche von 2,5 Quadratkilometern und rund drei Millionen Bestatteten zu den größten Friedhofsanlagen Europas gehört. Die Geschichte der Grabdenkmäler ist ein Stück Kulturgeschichte dieser Stadt. Die in den Ehrengräbern bestatteten Persönlichkeiten bilden einen interessanten Querschnitt durch das gesellschaftliche Leben Wiens bis in die jüngste Vergangenheit.