Josep Piera Rubio neix a Beniopa (la Safor) el 30 de maig de 1947. Estudia als Escolapis de Gandia i més tard fa Magisteri a València.

La seva anada a València coincideix amb els inicis del que aviat seria el moviment literari conegut com la «Generació dels 70», de la qual ell en seria un dels seus màxims representants. La seva obra literària fa els primers passos en castellà dins dels ambients literaris "novísimos" fins que s'amara del nou valencianisme que marcarà aquesta dècada. En català, com a poeta, es dona a conèixer en l'antologia Carn fresca (1974), que just representa l'aparició de la jove poesia valenciana. Aquesta època és també la del naixement de relacions d'amistat fonamentals al llarg de la seva trajectòria personal i literària. Des de la que serà la seva companya de vida, Marifé Arroyo, amb la qual es casa el 1972, fins a amics poetes com ara Jaime Siles, José Luís Parra, Marc Granell, Eduard J. Verger i Adolf Beltran, entre altres. Amb aquests últims companys crea la revista Cairell, i en forma part del consell de redacció entre els anys 1979 i 1982.

L'any 1974 deixa la ciutat de València i es posa a viure amb la seva companya a la Drova (Barx), la vall dels seus estius infantils, que anirà adquirint amb els anys el caràcter d'un lloc i paisatge mítics en l'obra narrativa de l'autor. Poc després, el 1976, se celebren a Gandia els actes de cloenda de la secció literària del Congrés de Cultura Catalana, que suposen una fita per a l'articulació de l'anomenada generació dels setanta als Països Catalans. D'aquest temps són les seves relacions amicals amb poetes com Xavier Bru de Sala, Ramon Pinyol, Maria Mercè Marçal, Vicenç Altaió, Jaume Pont, Àngel Terron, Miquel de Palol i Àlex Susanna, entre altres. Després d'uns primers llibres poètics, a les acaballes de la dècada de 1970 guanya el premi Octubre-Andròmina amb la seva primera novel·la, Rondalla del retorn (1977). Obté el premi Carles Riba de poesia el 1979 amb El somriure de l'herba (1980). També durant aquests anys inicia el seu periple viatger per la Mediterrània, que donarà alguns dels títols en prosa més rellevants de la seva trajectòria narrativa, marcada per una prosa entre intimista i memorialista que el situa com un dels autors pioners en la que s'ha anomenat «narrativa del jo».

Paral·lelament, de 1974 a 1979 treballa activament en el món de la pedagogia, col·laborant en diversos treballs i cursos sobre Introducció de la llengua materna en l'ensenyament, amb el suport de la Universitat de València i coordinats per Manuel Sanchis Guarner. El 1980 abandona el món educatiu per a dedicar-se plenament a la literatura. Per aquests anys publica articles de crítica literària en revistes com Valencia Semanal. Després d'ocupar una vocalia, del 1981 al 1985 és vicepresident pel País Valencià de l'Associació d'Escriptors en Llengua Catalana. Més endavant ho és també del PEN Català (1987-1995).

El 1981 obté el premi Josep Pla amb El Cingle verd (1982), primer llibre d'aquesta «narrativa del jo» que tant usa del dietari i de les memòries com del llibre de viatges. D'aquests anys són els seus viatges per la Mediterrània a Grècia i Itàlia. El curs 1985-1986 el passa a Nàpols com a lector de català a l'Instituto Universitario Orientale. També d'aquests anys destaca la plasmació literària del món poètic andalusí, iniciada amb Els poetes aràbigo-valencians (1983) i Poemes de l'orient d'Al-Àndalus (1983). Entre els llibres més significatius en prosa d'aquesta època es troben Estiu grec (1985) i Un bellíssim cadàver barroc (1987). De tornada de Nàpols cau en una crisi on se li agreuja una antiga malaltia, abans no diagnosticada –malaltia de Crohn–, que el manté tot un any hospitalitzat a Gandia. D'aquesta experiència, combinada amb un viatge a Sicília, apareix el llibre Ací s'acaba tot (1993).

En començar la dècada dels noranta (1989-1991) dirigeix la campanya de l'«Any del Tirant», organitzada per l'Ajuntament de Gandia, que commemora els 500 anys de l'aparició del Tirant lo Blanc de Joanot Martorell. Paral·lelament, del 1991 al 1993 dirigeix l'editorial Tres i Quatre. El 1991 la seva trajectòria és reconeguda amb la Creu de Sant Jordi de la Generalitat de Catalunya.

Literàriament, aquests anys noranta del segle XX venen marcats pels llibres motivats pel seu interès cap a la cultura àrab antiga i moderna, amb títols com El paradís de les paraules (1995), Seduccions de Marràqueix (1996) i El jardí llunyà (2000), o la traducció al català, juntament amb Josep R. Gregori, de poemes d'Ibn Khafaja. Més tard publica diversos títols dedicats a personalitats literàries i culturals del País Valencià, de camí entre l'assaig històric i la biografia novel·lada, com Jo sóc aquest que em dic Ausiàs March (2001), Francesc de Borja, el duc sant (2009), Premi Joanot Martorell, i El somni d'una pàtria de paraules (2012), sobre Teodor Llorente, Premi d'assaig Mancomunitat de la Ribera Alta.

Part de la seva obra ha estat traduïda, principalment al castellà i a d'altres idiomes com l'anglès, el francès i l'italià, i la seva poesia ha aparegut en nombroses antologies col·lectives arreu d'Europa.

L'any 2005 és nomenat membre numerari de la Secció Filològica de l'Institut d'Estudis Catalans. El 2010 és nomenat fill predilecte de Gandia, i l'any 2013 la seva trajectòria és reconeguda amb el Premi Abril d'Acció Cívica Valenciana.

Amb motiu dels quaranta anys de trajectòria literària de Josep Piera, l'any 2008 el CEIC Alfons el Vell, l'Ajuntament de Gandia i l'Institut d'Estudis Catalans organitzen diversos actes per homenatjar l'autor, com l'exposició de pintura «Naufragi del temps», de F. V. Nogueroles, un recorregut d'imatges extretes del llibre Puta postguerra, així com l'exposició «Josep Piera, la passió de les paraules», coordinada per Víctor Gómez Labrado amb el disseny de Francesc Vera. Aquesta exposició compta amb la col·laboració de diversos artistes que reinterpretaren aspectes de l'obra de l'escriptor. El mateix any 2008 es fa a Gandia, en un acte anomenat «Homenatge a la paraula» i coordinat pel CEIC Alfons el Vell, una representació teatral de Puta postguerra dirigida per Ximo Vidal, a càrrec del grup Pluja.

El 2011, l'Acadèmia Valenciana de la Llengua l'homenatja amb una jornada en què intervenen diversos companys i estudiosos de la seva obra. També el 2011 rep un homenatge de l'Associació d'Escriptors en Llengua Catalana en el marc dels Premis de la Crítica dels Escriptors Valencians.

Josep Piera viu a la Drova, la vall d'infantesa que també ha sabut conquerir l'escriptor madur i experimentat.