
Rybniště leží na silnici II/263 (Česká Kamenice - Rumburk), východně od kostela z ní odbočuje II/264 do Varnsdorfu. U kostela lze parkovat. Železniční stanice Rybniště (tratě Děčín - Rumburk a Rybniště - Varnsdorf) je asi 400 m severně. Od ní sem vede cyklostezka 211 a červená turistická značka. Obě dále pokračují různými trasami k železniční stanici Chřibská a dále do Lužických hor.
Severovýchodně od Rybniště se nacházejí rybníky Velký a Světlík, které jsou chráněné jako hnízdiště ptactva. Ze vsi k nim vede naučná stezka.
Přímo u kostela staví i příměstské autobusové linky mezi Chřibskou a Rumburkem, resp. Varnsdorfem.
V návaznosti na železnici vznikly v Rybništi průmyslové podniky a vzrostl počet obyvatel. Obec začala pomýšlet na stavbu vlastního kostela, jelikož sídlo farnosti (Chřibská) je vzdáleno několik kilometrů s velkým výškovým rozdílem. Poté, co vdova Teresie Elstnerová odkázala pozemek na stavbu kostela spolku sv. Bonifáce, rozhodla obecní rada přes odpor sociálních demokratů o stavbě. Projekt vypracoval varnsdorfský architekt Anton Möller (viz též plzeňský kostel Panny Marie Růžencové), stavba proběhla v letech 1909–1911. Vysvěcení provedl na den svatých Petra a Pavla 29. 6. 1911 litoměřický biskup Josef Gruss. Kostel vždy byl majetkem Spolku sv. Bonifáce. Bez větších úhon přežil všechny historické zvraty, které kraj a obec ve 20. století postihly. Nedávno byl opraven vnější plášť..