W 1848 roku rozpoczął naukę w parafialnej szkole ludowej, do której uczęszczał trzy lata. Za namową katechety i miejscowego nauczyciela, którzy dostrzegli w chłopcu nieprzeciętny umysł, rodzice postanowili kształcić go dalej. Kolejny etap edukacji to szkoły rzeszowskie, najpierw szkoła główna, a później gimnazjum. W latach szkolnych do ulubionych jego przedmiotów, oprócz łaciny, należała religia i historia. Już wtedy, jak sam pisze w swoich wspomnieniach, często powtarzał: „będę księdzem, a zarazem nauczycielem historii”. Jak pokazała przyszłość, słowa te były jednocześnie decyzją w wyborze drogi życiowej. W 1858 roku rozpoczął naukę w przemyskim Seminarium Duchownym, gdzie po zdaniu egzaminu dojrzałości, kontynuował studia teologiczne. Święcenia kapłańskie przyjął 17 lipca 1864 roku z rąk ks. bpa Antoniego Józefa Monastyrskiego, a swoją mszę prymicyjną odprawił w rodzinnej Korczynie.
Przez wszystkie lata nauki, poczynając od szkoły parafialnej, a kończąc na studiach w seminarium, wyróżniał sięspośród swych kolegów wiedzą i niezwykłą pracowitością. Docenili to jego zwierzchnicy kościelni, kierując go na dalsze studia do Rzymu, gdzie studiował teologię i prawo kanoniczne. Obydwa kierunki ukończył doktoratami.
Po powrocie z Rzymu w 1869 roku został prefektem Seminarium Duchownego w Przemyślu , a następnie jego wykładowcą.
W latach 1877 – 1899 wykładał kolejno historię Kościoła, prawo kanoniczne i teologię pastoralną na Wydziale Teologicznym Uniwersytetu Jagiellońskiego w Krakowie. W każdej z tych dziedzin pozostawił napisane i wydrukowane dzieła. Jako rektor uniwersytetu (1882 – 1883) zasłużył się w rozbudowie jego gmachów, a przede wszystkim w powstaniu Collegium Novum z aulą uniwersytecką. W tym okresie był jednocześnie kanonikiem kapituły wawelskiej, a także wspaniałym kaznodzieją. Do jego zasług należy zaliczyć założenie w 1893 roku zgromadzenia sióstr sercanek, które opiekowały się służącymi i chorymi.
W ostatnim okresie życia związany był na stałe z Przemyślem. W dniu 27 lutego 1899 roku zostałpowołany na biskupa sufragana (pomocniczego) diecezji przemyskiej, a w roku 1900 na ordynariusza. Jego rządy biskupie zdominowane były troską o podniesienie poziomu duchowieństwa i wiernych. Miały służyć temu wydawane dość często odezwy i listy pasterskie, oraz synody diecezjalne zwoływane w latach 1902, 1908, 1914.
Biskup Pelczar zajął się również sprawami społecznymi w diecezji. W 1911 roku powołał do istnienia redakcję miesięcznika „Kronika Diecezji Przemyskiej”, a w rok później urządził bibliotekę i muzeum diecezjalne. Miał też znaczny udział w założeniu Hospicjum Polskiego w Rzymie w 1909 roku. Również dzięki jego poparciu Salezjanie zajęli się młodzieżą rzemieślniczą w Przemyślu.
Wśród tej wszechstronnej działalności nie przerywał swojej pracy pisarskiej, a przede wszystkim dużo czasu poświęcał na modlitwę i skrupulatnie odbywał rekolekcje.
Zmarł 28 marca 1924 roku w Przemyślu, pochowano go w kościele Najświętszego Serca Jezusowego. W 1991 roku jego szczątki przeniesiono do przemyskiej BazylikiArchikatedralnej.
Dnia 2 czerwca 1991 r., podczas IV pielgrzymki do Polski, Ojciec Święty Jan Paweł II dokonał w Rzeszowie beatyfikacji bpa Józefa Sebastiana Pelczara, jego kanonizacja odbyła się w Rzymie 18 maja 2003 roku. Relikwie świętego znajdują się w Bazylice Archikatedralnej w Przemyślu.