Park Karola Ferdynanda Wazy, przed II wojną światową nazywany był Ogrodem Senatorskim. Nazwa parku wywodziła się od pałacu, w którym kiedyś zamieszkiwał porozbiorowy senator rosyjski Sołowiow. Otrzymał on majorat Wyszków po upadku powstania styczniowego.
Do dnia wybuchy wojny w 1939 r. mieścił się w nim budynek koedukacyjnego gimnazjum i liceum. Uczniowie szkoły korzystać mogli z dobrze rozwiniętej infrastruktury sportowej, m.in z boiska do piłki siatkowej, kortów tenisowych, ścieżek biegowych oraz skoczni lekkoatletycznej. W parku znajdowały się również dwie sadzawki, które w okresie zimowym wykorzystywane były jako lodowisko do jazdy na łyżwach, a także do rozgrywek hokejowych.
II wojna światowa przyniosła ogromne zniszczenia i zdewastowanie pięknego Ogrodu Senatorskiego. Pozostał po nim wypalony szkielet budynku gimnazjalnego, zryte bombami i okopami boiska oraz zniszczone ogrodzenie. W sadzawkach pływały połamane gałęzie, skrawki materiałów, oraz skrzynki po amunicji. Piwnice gimnazjum pełne były nadpalonych i spalonych dokumentów oraz książek.
W czasie okupacji dyrektor gimnazjum Apolinary Rytel, aby przetrwać trudny okres i utrzymać rodzinę obsiał zbożem dawne boiska i posadził warzywa.
Gimnazjum wznowiło swoją działalność w wynajmowanych pokojach, a zaraz po tym powstała idea odbudowania zrujnowanego budynku. W ramach czesnego rodzice uczącej się młodzieży zwozili materiały budowlane. Przy ruinach budynku na nowo powstały boiska do siatkówki i do gry w „dwa ognie”, młodzież przychodziła tu na zajęcia wychowania fizycznego.
Plany na odbudowę budynku dawnej szkoły runęły, gdy prywatne gimnazjum zostało upaństwowione i znalazło nową lokalizację (w budynku obecnej Szkoły Podstawowej nr 1 i I Liceum Ogólnokształcącego). Zmarł również charyzmatyczny dyrektor szkoły Apolinary Rytel. Ogród nadal częściowo wykorzystywany był do uprawy rolnej, sadzawki w skutek obniżenia się wód gruntowych zaczęły wysychać i znikać jedna po drugiej. Zaprzestano w końcu używać nazwy Ogród Senatorski i zaczęto go tytułować parkiem gimnazjalnym.
W okresie latach 80’tych XX wieku, nazywany „Parkiem 30-lecia PRL”, by pod transformacji ustrojowej, decyzją Rady Miejskiej zmienić nazwę na „Park Karola Ferdynanda Wazy”.
