Historyk i krytyk literatury, publicysta i działacz opozycyjny. Uczył się w Gimnazjum im. Staszica w Warszawie, a podczas wojny kontynuował naukę na tajnych kompletach. Wziął udział w Powstaniu Warszawskim. Po wojnie zdał maturę i podjął studia polonistyczne na Uniwersytecie Warszawskim. Po studiach znalazł pracę w PIW-ie, gdzie został redaktorem, jednocześnie w latach 57- 59 był prezesem Klubu Krzywego Koła. Z tegoż okresu pochodzi jego obfita korespondencja z Jerzym Giedroyciem.
W 1960 r. Lipski został wyrzucony z PIW-u za referat poświęcony ONR Falanga i Bolesławowi Piaseckiemu. W latach 60. pracował w Instytucie Badań Literackich, jednocześnie biorąc udział w różnych protestach przeciwko władzy komunistycznej. W 1976 r. współtworzył Komitet Obrony Robotników. W 1980 r. został członkiem „Solidarności”, był wielokrotnie internowany. W 1982 r. z powodu złego stanu zdrowia władze pozwoliły mu pojechać na operację do Londynu. Rok wcześniej opublikował w „Kulturze” tekst „Dwie ojczyzny – dwa patriotyzmy”, a w 1987 r. książkę „Szkice o poezji” odrzuconą wcześniej przez wydawnictwa krajowe.
W wyborach w 1989 r. został senatorem, startował z listy w województwie radomskim. Wada serca, która już wcześniej przysparzała mu wielu problemów, przyczyniła się do jego przedwczesnej śmierci w 1991 r.