Patronem kościoła jest św. Szczepan, jeden z pierwszych siedmiu diakonów i pierwszy męczennik chrześcijański. Poniósł on śmierć męczeńską za wiarę około roku 36 w Jerozolimie.
Kościół został wybudowany w V wieku na polecenie papieża Leona na okrągłym planie wzorowanym na bazylice Grobu Pańskiego w Jerozolimie. Dach świątyni podtrzymywany jest przez 22 jońskie kolumny pochodzące prawdopodobnie z antycznej świątyni, która stała w tym miejscu. Z czterech bocznych kaplic, które tworzyły grecki krzyż, do dzisiaj zachowała się tylko kaplica św. Prymusa i Felicjana. Absyda kaplicy ozdobiona jest mozaiką z VII wieku przedstawiającą patronów kaplicy.
Ściana boczna bazyliki obrobiona jest freskami przedstawiającymi cierpienia męczenników. Freski, na zamówienie papieża Grzegorza XIII wykonał w latach 1572-1585 malarz Niccolò Circignani.
Wnętrze bazyliki św. Szczepana na CeliusieWnętrze bazyliki św. Szczepana na CeliusieWnętrze bazyliki św. Szczepana na CeliusieWnętrze bazyliki św. Szczepana na CeliusieMalowidła ścienne przedstawiające cierpienia męczennikówMalowidła ścienne przedstawiające cierpienia męczennikówMalowidła ścienne przedstawiające cierpienia męczennikówWnętrze bazyliki św. Szczepana na CeliusieWnętrze bazyliki św. Szczepana na CeliusieBazylika św. Szczepana na Celiusie