Josep Palau i Fabre neix a Barcelona el 21 d'abril de 1917, però passa el primer any d'infància a Badalona. El seu pare fou el pintor, decorador i inventor de joguines Josep Palau i Oller.

Col·labora en la premsa catalana abans del 1936. Als divuit anys comença a fer crítica literària a La Humanitat, és així com pot entrevistar Federico Garcia Lorca, Josep Maria de Sagarra i André Maurois, entre altres, i entra en l'ambient literari barceloní. El 1938 el mobilitzen al cos de Sanitat del Ministeri de Guerra. A l'entrada dels franquistes, es troba a Olot fent de cap aparatista i és dut al camp de concentració de Lleida.

Del 1939 al 1943 cursa a Barcelona els estudis de Filosofia i Lletres. Coneix Joan Triadú, Miquel Tarradell, Miquel Dolç, Néstor Luján. El 1941 organitza les primeres sessions clandestines d'Amics de la Poesia a casa seva. Publica el primer recull de poemes (una part del qual havia estat publicat a Melilla: Balades amargues) L'aprenent de poeta (1944), que va impactar en aquells moments per la incorporació de l'erotisme en algunes composicions. Conceptualment fou un poeta d'intencionalitat inconformista, pretès seguidor de la línia poètica marcada per Rimbaud i Artaud —autors que anys més tard va traduir al català— seguidor més per motius ideològics que clarament estètics, ja que l'estil de la seva obra poètica és en general racional i lúcida.

Fou el creador i l'editor de la revista Poesia (1944-45) revista literària eclèctica que lliga la tradició medieval d'Ausiàs March i la noucentista, amb textos de Carles Riba, J. V. Foix, Marià Manent, però alhora de Salvador Espriu i d'autors de la nova generació, com ara Joan Triadú i Rosa Leveroni, entre d'altres. Cal destacar-ne també les versions de Mallarmé, de Paul Élouard, de Rimbaud, de Breton, etc., sovint en la primera traducció al català del mateix Palau i Fabre. És, també, un dels fundadors de la revista Ariel (1946-51) i col·labora amb la revista d'avantguarda Dau al set.

El 1946 rep una beca del govern francès per una estança d'un any a París, que li és renovada l'any següent. S'hi està setze anys. A l'inici duu una vida bohèmia, i es dedica a fer diverses feines com ara extra de cinema, professor d'espanyol, periodista, cambrer... però cap al 1953 s'estabilitza econòmicament treballant a 'La Casa de México'. És un període d'aprenentatge i maduresa, que li permet conèixer entre altres personatges a Artaud, Camus, Octavio Paz i sobretot a Pablo Picasso. Retorna a Catalunya el 1961.

L'any 1952 aplega la seva obra poètica en un llibre que inclou els poemaris L'aprenent de poeta, Imitació de Rosselló-Pòrcel, Laberint i Atzucac i que titula Poemes de l'alquimista, la seva obra poètica més coneguda i que modifica i amplia en successives edicions revisades.

En paraules de Palau i Fabre «l'ambientació artística respirada al costat del meu pare explica que entre els meus primers poemes n'hi hagi molts de tema pictòric i explica, encara més, el meu interès per Picasso, del qual jo sentia parlar a casa meva des de menut i que no vaig conèixer sinó a París el 1947, un any després d'haver escrit el primer llibre sobre ell». L'impacte que li provoca conèixer personalment Pablo Picasso marca el contingut dels seus assajos centrats gairebé tots en l'estudi d'aquest pintor des de diversos àmbits: Vides de Picasso (1962), Picasso (1963), Doble assaig sobre Picasso (1964), Picasso a Catalunya (1967 i 1975), obra d'investigació, Picasso per Picasso (1970), recull i anàlisi de tots els autoretrats, Picasso i els seus amics catalans (1971), L'extraordinària vida de Picasso (1971), per a infants, El "Guernica" de Picasso (1979), El secret de les Menines de Picasso (1981), Vides de Picasso. Assaig d'una biografia pura (1986), Estimat Picasso (1998, premi Lletra d'Or), i la seva obra magna picassiana, els volums biogràfics Picasso vivent, 1881-1907 (1980), Picasso cubisme, 1901-1917 (1998) Picasso dels ballets al drama, 1917-1926 (1999).

Sobre l'atracció per l'obra i la personalitat de Picasso, diu Palau i Fabre a l'article "Nòtula" (Barcelona, 1996), "Quadern picassià", dins Quaderns de l'alquimista (Proa, 1997).

«L'obra de Picasso ha estat per a mi, des de sempre, una obra plena d'interrogants i de respostes. Em pregunto sovint què hauria estat de mi, en tots els sentits, sense la presència actuant de l'obra de Picasso. La més gran satisfacció de la meva vida haurà estat el fet que aquesta atracció instintiva, intuïtiva, que remunta a la meva adolescència, ell acabés adonant-se que era autèntica. Considero que no existeix cap altra obra que contingui la quantitat de matisos humans -joia, tristesa, furor, erotisme, mordacitat, plagasitat, recel, lirisme, amor-com la que conté la de Picasso i, per tant, cap a qui més li escaigui de ser considerada un humanisme integral [...]».

L'any 1962 inicia una etapa vital solitària a la cala Grifeu, a la Costa Brava, que s'allarga fins al 1975, combinant-la, però, amb ininterromputs viatges picassians. A continuació comença una etapa públicament més dinàmica. Del 1976 al 1979 presideix el PEN Català, i en l'àmbit literari, reedita els poemes, recupera el teatre amb diverses posades en escena, continua publicant els estudis picassians, i publica les primeres incursions en el món de la narrativa amb el llibre Contes despullats. Fa col·laboracions en mitjans de comunicació com l'Avui i L'Avenç, i la seva obra en prosa es recull en els Quaderns de l'Alquimista (1976), en les ulteriors edicions o versions del qual (1983, 1991, 1996, 1997) va afegint nous materials, sempre al voltant de la temàtica estètica o literària. Els seus assajos s'han traduït a diverses llengües.

L'any 1984 va ser guardonat amb el premi de Literatura Catalana d'Assaig de la Generalitat de Catalunya pel seus Nous quaderns de l'alquimista. L'any 1989 rep la Creu de Sant Jordi de la Generalitat de Catalunya. L'any 1996 aplega a Les metamorfosis d'Ovídia dotze narracions escrites entre 1989 i 1994. El 1996 el distingeixen amb el Premi Nacional de Cultura; el 1999, amb el Premi d'Honor de les Lletres Catalanes, el 2000 és nomenat Officier de l'Ordre des Arts et des Lettres, pel govern francès i l'any 2006 obté el premi Crítica Serra d'Or d'obres completes.

El maig del 2003 s'inaugura la Fundació Palau a Caldes d'Estrac (Maresme), que ell mateix presideix. La Fundació Palau té com a vocació conservar, exhibir i difondre el fons artístic i documental propi de Josep Palau i Fabre i el fons que va heretar del seu polifacètic pare, Josep Palau Oller.

Posteriorment rep diferents homenatges com el que li va retre l'Ajuntament de Barcelona al Palau de la Música, l'any 2005. Mor a Barcelona el 23 de febrer de 2008 als noranta anys.

El 2011 es culmina la monumental obra picassiana de Palau i Fabre amb la publicació pòstuma de Picasso 1927 - 1939. Del Minotaure al Gernika, el quart volum de l'estudi més minuciós i detallat sobre l'artista que s'ha escrit mai.

El 2017 la seva fundació, juntament amb la Institució de les Lletres Catalanes, promouen l'Any Palau i Fabre, en commemoració del centenari del seu naixement.

Josep Palau i Fabre fou soci d'honor de l'Associació d'Escriptors en Llengua Catalana.