Tanulmányait a Székesfővárosi Felsőbb Zenei Iskolában végezte, ahol brácsázni tanult, a zene szeretete élete végéig éltető eleme maradt. 1951-től dolgozott a Magyar Rádióban dramaturgként, majd 1957-től az Állami Hangverseny- és Műsorigazgatóságnál volt művészeti vezető, innen 1960-ban a Magyar Televízióhoz került művészeti vezetőnek a szórakoztató rovathoz. 1962-től haláláig a Rádió Zenei Főosztályán dramaturgként dolgozott, évtizedekig vezette a szórakoztató zenei szerzeményeket elbíráló ún. sanzonbizottságot is.

Pályája során több komolyzenei mű, így Hajdú Mihály: Kádár Kata, Horusitzky Zoltán: Báthory Zsigmond, Ránki György: Muzsikás Péter című operájának, illetve Sugár Rezső: Hunyadi című oratóriumának szövegkönyvét írta meg. Lefordította Gluck Orfeusz, Rossini Ory grófja, Orff Az okos lány című operájának, Johann Strauss A denevér című operettjének librettóját, és az ő nevéhez fűződik a T.S Eliot költeményei alapján készült világhírű Macskák című musical magyar fordítása is.

Romhányi József a Rádió Tánczenekarának koncertjén konferál 1957-ben (MTI Fotó: Horváth Tamás)

Igazán híressé és méltán népszerűvé az animációs filmek tették: ő írta a szövegét olyan közkedvelt rajzfilmsorozatoknak, mint a Mézga család, a Kérem a következőt, a Mekk mester. Az ő fordításában lett sikeres az amerikai Flintstone család című sorozat is, Frédi és Béni, a két kőkorszaki szaki parádés párbeszédeit máig emlegeti a közönség. A sorozatokon túl részt vett egész estés rajzfilmek, így a Nepp József rendezte Hófehér és a Dargay Attila rajzolta Ludas Matyi elkészítésében is, sikerük nem kis részben Romhányi szellemes és frappáns szövegeinek köszönhető.

A Mézga család, 1969 (forrás: MTI)

Romhányi a magyar nyelv kiváló ismerőjeként kiváló zenei érzékkel és humorral fedezte fel a nyelvben rejlő játék lehetőségét, szellemes és ötletes, olykor bravúros rímei, szócsavarásai miatt kapta meg a "rímhányó" jelzőt (egyesek szerint nevének játékos elferdítését is ő találta ki és terjesztette el).

1983-ban önálló versgyűjteménnyel jelentkezett, a Szamárfül című vékonyka verseskötet hihetetlen sikert aratott, s többször is kiadták. A kötetben Romhányi állatverseit gyűjtötte csokorba a tőle megszokott nyelvi játékokkal fűszerezve, s a kacagtató-ironikus költeményekben saját emberi gyengeségeinkre is ráismerhettünk. Számos más könyvével is maradandót alkotott: írt verses mesét Mese az egér farkincájáról címmel, fantasztikus regényt Mézga Aladár különleges kalandjairól, verses képeskönyvet Tíz pici coca címmel, humoros elbeszélésciklust Doktor Bubóról.

Romhányi Józsefet 1983-ban érdemes művész címmel jutalmazták, nem sokkal később, május 7-én Budapesten meghalt.

A Szamárfül Ebigrammák című ciklusából való a Veszélyes mese című verse is, amelyben hasznos intelmet fogalmazott meg: "Csörtetve üldözte egy nagyvad a nyulat, / míg azt elnyelte egy hosszú kanyarulat, / a némán lapulva leskellő kobra / ott várt moccanatlan, mint önmaga szobra. / Így hát vedd alapul: / A nagy veszély csörtet, a még nagyobb lapul."