
Kostel sv. Petra a Pavla se nachází v části obce Horní Prysk, na návrší zvedajícím se nad pravým břehem Pryského potoka. Toto návrší se dodnes nazývá školní kopec (Schulberg), protože hned pod kostelem je budova školy.
Protože později přestával starý kostelík vyhovovat, bylo potřetí přikročeno ke stavbě kostela. 5. června 1718 byl za účasti biskupských vikářů, městských děkanů z Kamenice a hejtmanů vytýčen pozemek a to samotným stavitelem Petrem Paulem Columbanim, který pocházel z Milána a usadivší se v Roudnici. Výstavbou Pryského kostela chtěl Columbani prokázat čest sv. Petru a Pavlovi, kteří se stali patrony kostela. Proto stavbě Columbani věnoval obzvláštní péči. Kostel byl stavěn „z kamene a v barokním stylu,“ avšak svou konečnou podobu získal úpravami až v roce 1789 a následně v 19. století. Mimo jiných se Columbani podílel také na stavbách kostelů v Sloupu v Čechách, Polevsku a Kamenickém Šenově. Základní kámen byl položen den po kostelní slavnosti dne 30. června 1718. O rok později již byla stavba zastřešena. Rok nato se mohlo „s výstavbou pokračovat pro nedostatek peněz až v červenci.“ „Na den sv. Michaela 29. září 1721 přišlo procesí od Kamenice k vysvěcení nového kostela v Prysku; čtyři kněží sloužili tichou mši, na kterou navazovalo kázaní. Rychtář Füller věnoval kostelu velký vyřezávaný dřevěný kříž, který byl pověšen naproti kazatelně, jiní dobrodinci se postarali o ostatní výzdobu“. Tato jednolodní stavba působí na jedince již vnějšími vzletnými liniemi a je jedinečným klenotem barokního umění. Kostel, který je 25m dlouhý, 11m široký a 21m vysoký, má zvlněné boční stěny s obdélníkovým, polokruhově ukončeným presbytářem. Na jižní straně lodi se nachází předsíň se zvlněnou vstupní stěnou. Na jižní straně presbytáře je přistavěna sakristie čtyřlistého tvaru. Západní průčelí je opět zvlněné a je členěno pilastry, kdy střed je prolomen obdélníkovým portálem s rozeklaným štítem. Nad hlavním vstupním portálem se nachází kamenný erb patronů kostela knížecího rodu Kinských. Nad ním je umístěno slepé okno kasulovitého tvaru, se zdobnou supraportou. Boční partie průčelí jsou prolomeny nikami se sochami obou patronátních světců. Průčelí vrcholí štítem s křídlatými zdmi, členěným lizénami a prolomeným nikou se sochou Krista. Střecha kostela, která byla „cínovým plechem pokrytá a červeně natřená“ nese věžičku, ve které byl umístěn svatý zvon (tzv. sanktusník), který byl rozezníván při pozdvihováních a požehnáních. „Průměr a výška tohoto zvonu byla půl metrů, váha 31,7 kilogramu. Vyraženy na něm byly obrázky sv. Jana z Nepomuku a sv. Adalberta, dále pak letopočet 1739 a latinský nápis: „U fulgure et tempestate libera nos Domine“ („Před bleskem a nepohodou ochraň nás ó Pane“). Vnitřek kostela, který má 260m2, je prosvětlen 10 vysokými okny, je vymalován a celý bohatě vyzdoben. Rokokový hlavní oltář, na kterém je umístěn obraz sv. Petra a Pavla od malíře Thomase Eyselta z Jablonného, byl vyroben roku 1752 pražským sochařem Janem Lampelem. Je vyřezán z lipového dřeva, které na jeho výstavbu dodala zdarma sama obec. Spodní část oltáře byla ale kritizována a jeho přestavbou byl pověřen proslulý sochař Antonín Max ze Sloupu, který v roce 1763 zhotovil i kazatelnu, která se stala vskutku mistrovským dílem pozdního baroka. Spodní díl oltáře, který byl odstraněn, byl později použit pro stavbu zpovědnice. Mnohé však bylo nenávratně zničeno. Na nynějším spodním okraji je nápis: „Vše je pořízeno z almužen dobrodinců.“ Kromě hlavního oltáře, na němž je umístěn velký obraz apoštolů, vidíme ještě tři postranní oltáře, z nichž ten na pravé straně pochází z původního starého kostela. Na kruchtě stojí varhany z roku 1745 se 2 klaviaturami, jedním pedálem a deseti mutacemi. V malovaném erbu, který je na nich umístěn, jsou uvedena jména mecenášů: Johanna Georga Kreibicha z Horního Prysku a Floriana Palmeho z Dolního Prysku.V kostele je umístěno 40 lavic, které pojmou kolem 400 míst k sezení. Hlavní vchody jsou dost široké, místo tu najde asi 1000 lidí. 16. srpna 1908 byla na jižní straně chrámu umístěna pamětní deska nadporučíkovi Plaschkowitzovi, který byl roku 1756 zastřelen pruskými vojáky v chřibském lese. 23m vysoká barokní, křížově podklenutá věž z roku 1680 je od kostela oddělena hřbitovem a stojí sloučená se hřbitovní zdí a márnicí s reliéfem madony, která byla ke věži přistavěna v roce 1722. Ve věži se nacházely 3 zvony a věžní hodiny zhotovené roku 1791 šluknovským hodinářem Christophem Frödem za 300 forintů. Jeden zvon byl po odsvěcení kostela zcizen a po dvojnásobném zakování zůstaly na zvonici ještě ostatní 2 staré zvony, které však byly 12. srpna 1966 s církevním i státním povolením sňaty, převezeny do Kamenického Šenova a tam namontovány na zvonici, protože se v Prysku staly cílem uličníků. Jelikož chrám stojí na návrší, kterému se dříve říkalo „Schulberg“ (školní kopec) – opodál stála původní stará škola, má komplex staveb chrámu, věže, márnice a zdi podobu hradiště. Tento fakt umocňuje terasová forma uspořádání schodiště vedoucího ku věži. Od věže vede lipová alej k jižnímu vchodu do kostela. Pozemek patřící kostelu byl v roce 1865 rozšířen – byl to dar obchodníka se sklem Františka Josefa Paudlera. Před zvonicí je památník se jmény padlých v I. světové válce..