Szülővárosa Marosvásárhely. Apja halála után az édesanya szakmát igyekszik biztosítani középiskolát végzett fiának. 1885-ben kerül Eperjesre Divald Károlyhoz, a fényképész mesterséget elsajátítani. Főnöke ajánlásával jut Pestre, Bihari Sándor és Karlovszky Bertalan iskolájába festészetet tanulni. Katonaéveit letölteni visszatér Marosvásárhelyre.
Magyar állami ösztöndíjjal jut Párizsba, a Julian Akadémiára. Tanulmányai ideje alatt dolgozik, ám a megélhetése végett így is át kellett költöznie Münchenbe. Az itt vállalt éjjeli munkák miatt megbetegszik, de végül sikerül újabb egy évet (1896) Párizsban töltenie. Ismét München következik, majd Budapest, nehéz anyagi körülmények között látogatja Benczúr Gyula magániskoláját. Id. Divald Károly leányát, Emíliát veszi el feleségül, élete végéig nagyon jó családi kapcsolatokat ápol apósával és sógorával, ifj. Divald Károllyal (arcképeiket többször megfesti). 1901-ben telepedik le Temesváron, házat vásárol magának, itt születnek gyermekei is.
Akvarelleket, tusrajzokat, rézkarcot, pasztellt, falfestményt és olajképeket készít. Halála után számos ceruzarajz (vázlat) marad a család birtokában. Szereti a várost, szívesen kutatja a régi, történelmet idéző helyeket, járja az ódon belvárosi udvarokat, szűk utcákat, ahonnan vázlatokkal, szénrajzokkal tér haza. Műterme a Várbástyában, később a Belvárosban volt. Készséggel fogad látogatókat, élete végén restaurálást is vállal.
Művészete túlmutat kora akadémikus alkotásain, de – bár vidám, szabadban készített, napfényes tájképein, virágcsendéletein itt-ott megnyilvánul az impresszionista hatás – nem válik egyik stílus elkötelezettjévé sem. 1904-ben járt, beteg feleségével, először Olaszországban. Palettája színesebbé válik, ecsetkezelése felszabadultabb lesz. A következő években gyakrabban megfordul Itáliában, másolatokat készít Van Dyck és Raffael művei után.
Eleinte nehezen jut megrendelésekhez, de gyorsan elkészülő, pontos rajzú, akadémikus portréival ismeretségi kört szerez magának. 1902-ben, a brassói városházának festett Őfelsége I. Ferenc József (a Szt. István-rend díszöltözetében) című képe hozza meg számára a hivatalos elismerést. 1904-től a városi tanács hivatalos portréinak legnagyobb részét tőle rendelik meg a városháza tanácsterme számára. Portréit fényképek alapján és modell után készíti. Ő festi meg Krecsányi Ignác színházigazgató, Telbisz Károly, Veigl József, Steiner Ferenc, Preyer Nepomuk János temesvári polgármesterek, Salacz Béla törvényszéki elnök, Németh József csanádi püspök, dr. Szentkláray Jenő apátkanonok, dr. Patzner István, Szabolcska Mihály református lelkész, Gozsdu Elek ügyész, Mühle Vilmos tanácstag és sok más hivatalos személy arcképét. Rendez egyéni kiállítást Temesváron, Versecen, Pancsován, Szabadkán.
1904-ben nagyméretű olajképét, a ’48-as katonáknak emléket állító A honvéd álma (Dicső napok) című festményét a város megvásárolja a múzeum számára, ez Önarcképével együtt elveszett. Sokat járt Matyóföldön, dekoratív, kis képei révén (Fiatal matyó pár, Matyó tánc, Muskátlis kép stb.) megismerteti a Dél-Alfölddel a matyók világát. 1910 körül keletkezett
festményei leginkább Bihari Sándor és Nyilasi Sándor munkáihoz állnak közel. 1897 óta állít ki a Műcsarnokban. 1906-ban, majd 1910-ben, az ő kezdeményezésére nyílik meg Temesváron is a Nemzeti Szalon, rendezésében a festő fontos szerepet vállalt.
1912 januárjában kerül átadásra a Temesvári Piarista Főgimnázium épület-komplexuma. Ennek templomába „al secco” technikával Ferenczy József festi meg a Kalazanti Szent József (a kegyesrend megalapítójának) életéből vett jeleneteket. Művészeti-ismertető előadásokat tart külön az előkelő társaságnak és külön esti oktatást a munkásoknak meg szakiskolai tanulóknak. Előadásait később füzet formájában nyomtatásban is megjelenteti (1914).
Az első világháború nagyon megrettenti, borzalmas jövőt jósol a romboló emberi elmének. 1914-1916 között Münchenbe költözik, a háború végén nem akar festeni. Bibliai témák foglalkoztatják, nagyméretű, komor olajképeket fest: Júdás, Krisztus a kereszten, Lázár feltámasztása, Mária a gyermekkel. Felfedezi magának a hátszegi, karánsebesi tájakat, majd a resicai kohók, vasolvasztók fényeit, színvilágát. 1920 júniusában, a Bánság román államhatalmi átvételekor, a megcsonkult hivatalos városi képtárat ő leltározza, jegyzőkönyvezi és küldeti át a múzeumnak.
1923-ban, már súlyos betegen, öccsével, a festő Ferenczy Károllyal utoljára ellátogat Olaszországba. A hazatérés után az egyre gyengülő művészt csak erős akarata tartja életben. 1925 decemberében nagyszámú művészkolléga jelenlétében vettek tőle végső búcsút. A temesvári Arany János Társaság barátai segítségével 1926 januárjában megrendezik hagyatéki kiállítását. Számos alkotása került temesvári, magyarországi és németországi magántulajdonba, mintegy 30 festménye a temesvári Szépművészeti Múzeum anyagát gazdagítja.
