Budapesten született 1921. november 25-én. A piarista gimnáziumban érettségizett; jogot, majd magyar irodalmat és művészettörténetet hallgatott, de egyetemi tanulmányait nem fejezte be. Első versei 1938 végén, 1939 elején kerültek nyilvánosság elé. 1944 őszén katonának hívták be, így került el a németországi Harbachba, ahol egész életre szóló, megrendítő élménye lett a koncentrációs táborok borzalmaival való találkozás.

Pilinszky 1945 novemberében tért haza a háborúból, és az újonnan szervezett irodalmi élet középpontjába került. Összeállította első verseskötetét, majd tagja lett az Újhold szerkesztőségének. 1947 tavaszán megkapta a Baumgarten-díjat, majd Basch Lóránt kezdeményezésére meghívták a római ösztöndíjasok közé.

Téboly, háború, borzalom – három jelző, amely Pilinszky Jánosnak nemcsak a létezését, de a költészetét is átszőtte. A háború az eszmélődés legfogékonyabb korában érte Pilinszkyt, s annak traumája egész életét és költészetét meghatározta. 1949-től nem publikálhatott, az irodalmi élet perifériájára szorult, ekkoriban verses meséket írt.

Az 1960-as évek elejétől számos alkalommal utazott Nyugat-Európába. Párizsban hosszabb időt is töltött, 1975-ben Amerikába is eljutott. Míg az ötvenes években viszonylag szűk körben ismerték, a hetvenes években már általános elismerés övezte. 1971-ben József Attila-díjat, 1980-ban Kossuth-díjat kapott.

Pilinszky János mestere volt annak, hogy teljesen egyedi módon, őszintén, mélységében és összetettségében legyen képes megragadni – és írásaiban visszaadni – az emberi élet törékenységét. Elég rápillantani egy korabeli Pilinszky-portréra, fényképre, a fotókon visszaköszönő férfialakról sugárzik mind a testi, mind a lelki törékenység.

1981. május 27-én – második szívinfarktus következtében - Budapesten hunyt el.