W najpiękniejszej części Płocka na skarpie, niedaleko Katedry, zamku, mieści się Biblioteka im. Zielińskich, jedna z najstarszych bibliotek naukowych w Polsce. Została założona przez niezwykle ciekawego poetę, patriotę, uczestnika powstania listopadowego – Gustawa Zielińskiego. Pochodził on z rodziny o tradycjach patriotycznych. Jak wielu młodych ludzi w tamtych czasach brał udział w wielu zrywach narodowościowych. Za udział w tzw. spisku Zaliwskiego został zesłany przez zaborców na Syberię. Po powrocie z Syberii, osiadł w rodowym majątku w Skępem i stał się wzorowym ziemianinem.

Nie zapomniał jednak o swoich literackich korzeniach i kiedy wreszcie miał ku temu możliwości finansowe, zaczął gromadzić książki, które po kilku latach stały się potężną biblioteką. W gromadzeniu książek pomagali mu przyjaciele, księgarze, antykwariusze. Było w owym okresie wiadomym, że Zieliński jest zainteresowany kupnem książek z zakresu szeroko pojętej humanistyki. Gromadził książki historyczne i literaturę piękną. Chętnie też kupował inkunabuły i starodruki.

Wszystkie książki były staranie katalogowane i opisywane. Od początku było wiadomo, że ten zbiór nie miał być zbiorem prywatnym, ale służącym obywatelom. Sam Gustaw Zieliński nie zdołał przed śmiercią przekazać zbiorów społeczeństwu. Uczynił to dopiero jego syn przekazując księgozbiór „dla dobra publicznego”. Opracowany księgozbiór miał trafić do Płocka pod opiekę Towarzystwa Naukowego Płockiego. Fundator uznał, że Towarzystwo jest predysponowane do tego, by należycie opiekować się zbiorami, a także udostępnić je wszystkim zainteresowanym. Opiekę nad zbiorami przejął Aleksander Maciesza, związany z Gimnazjum Macierzy Polskiej (obecną Jagiellonką).

W akcie notarialnym zapisano, że biblioteka na zawsze ma się znajdować w Płocku. Na cześć ofiarodawców nazwano ją Biblioteką Zielińskich. Piękny rozwój biblioteka przeżywała w okresie międzywojennym, gdyż znalazł się pod opieką osób, które rozumiały jej znaczenie i pracowały nad tym, by stała się ona zapleczem naukowych aspiracji polskich naukowców. Warto podkreślić, że wiele osób pracowało w bibliotece społecznie. W czasie drugiej wojny światowej działalność biblioteki została zawieszona, chociaż na szczęście nie doszło do jej zniszczenia. Po wojnie wznowiono działalność i jeszcze w szerszym zakresie udostępniono ją czytelnikom. Widać w tym okresie jej dynamiczny rozwój, zwłaszcza po przeniesieniu w 1976 roku zbiorów do gmachu przy ulicy Narutowicza, gdzie funkcjonuje do dzisiaj. Jest najważniejszą biblioteką naukową w Płocku.