Pierwszych dwadzieścia lat życia, w tym okres okupacji, spędził w rodzinnym, wielokulturowym Lwowie. Następnie ukończył studia ekonomiczne w Akademii Handlowej w Krakowie i prawnicze na Uniwersytecie Mikołaja Kopernika w Toruniu. Studiował też filozofię. W 1951 r. osiadł w Warszawie, skąd od roku 1958 wyruszał na kilkuletnie wyprawy do Europy Zachodniej. Pierwsze teksty publicystyczne ogłosił w roku 1948, pierwsze utwory poetyckie w roku 1951, ale za właściwy debiut poetycki uważał wydany w roku 1956 tom „Struna światła”.

W swojej twórczości nawiązywał do tradycji i symboli cywilizacji śródziemnomorskiej oraz wyrosłej na jej gruncie kultury chrześcijańskiej Europy, rozważając na tym tle zagadnienia moralne i kondycję duchową współczesnego człowieka. Tomy jego wierszy („Struna światła”, 1956; „Hermes, pies i gwiazda”, 1957; „Studium przedmiotu”, 1961; „Napis”, 1969; „Pan Cogito”, 1974; „Raport z oblężonego Miasta”, 1983; „Elegia na odejście”, 1990; „Rovigo”, 1992; „Epilog burzy”, 1998) oraz zbiory esejów („Barbarzyńca w ogrodzie”, 1962; „Martwa natura z wędzidłem”, 1993; „Labirynt nad morzem”, 2000; „Król mrówek”, 2001) należą do najważniejszych osiągnięć polskiej literatury drugiej połowy XX w. Był również autorem sztuk scenicznych i słuchowisk radiowych („Jaskinia filozofów”, 1956; „Drugi pokój”, 1958; „Rekonstrukcja poety”, 1960; „Lalek”, 1961; „Listy naszych czytelników”, 1972).

Jego utwory tłumaczone były na 35 języków, przynosząc mu wiele prestiżowych nagród, w tym m.in.: Fundacji im. Kościelskich w Genewie (w roku 1964), Jurzykowski Millennium Prize (1965), Fundacji Kultury (1997), Internationaler Nikolaus-Lenau-Preis (1965), Gottfried-von-Herder-Preis (1973), Petrarca-Preis (1979), Bruno Schulz Prize (1988), Jerusalem Prize for the Freedom of the Individual in Society (1991), The T. S. Eliot Award for Creative Writing (1995)… Po śmierci odznaczony został Orderem Orła Białego. Rok 2008 Sejm RP ogłosił Rokiem Zbigniewa Herberta – rok ten w całej Polsce i w wielu miejscach na świecie był wypełniony inicjatywami inspirowanymi jego twórczością.
W literaturze światowej Herbert rozpoznawany jest przede wszystkim dzięki swojemu poetyckiemu alter ego, postaci Pana Cogito.