Počiatky rímskokatolíckej cirkvi v mestečku Veľká sú úzko spojené s jej najstaršími písomnými zmienkami. Najstaršia z nich sa viaže už na rok 1268. V tamojšom znení je Veľká doložená ako Vylkam - s farou, neskôr ako Filka (1298), Velka (1786); maďarsky Felka, nemecky Oberwarth, Felka. Zhruba v tomto období bol postavený aj kostol, ktorý bol zasvätený sv. Jánovi Evanjelistovi.
Medzníkom v živote rímskokatolíckej cirkvi tejto farnosti sa stalo 16. storočie a nástup reformácie na Spiši. Približne od roku 1552 do roku 1674 utíchla v tejto oblasti rímskokatolícka cirkev a kostol sv. Jána Evanjelistu prešiel pod správu evanjelickej cirkvi.
Čo sa týka liturgického života, môžeme povedať, že vzhľadom na rôznosť obyvateľstva, bol veľmi pestrý. Podľa kanonickej vizitácie z roku 1803 boli sväté omše v nedele a sviatky vždy spievané a s kázňou. Náboženská náuka bola konaná verejne z kazateľne, najprv pre dospievajúcich, potom pre školákov. Rímsky katechizmus sa vysvetľoval po nemecky, a ak popoludní prišli do kostola aj veriaci z radov služobníctva, viedla sa kázeň v slovenčine. Ľud vo Veľkej bol prevažne nemeckej národnosti, služobníctvo bolo prevažne slovenské. Z toho dôvodu mal kňaz cez sviatky sv. Štefana, Veľkonočný pondelok, Narodenie Panny Márie a jednu nedeľu počas Veľkého pôstu pri omši slovenskú kázeň. Rečový poriadok pri omšiach sa neskôr zmenil. Vzhľadom nato, že vzrástlo slovenské obyvateľstvo sa už v kanonickej vizitácie z roku 1832 konštatuje, že v nedele a sviatky sa pred sv. omšou kázalo dve nedele po nemecky a tretiu po slovensky.
