Toen hij 16 jaar was werd hij lid van de VVD. Bij de JOVD is hij voorzitter van de Goudse afdeling en van District Zuidwest Zuid-Holland en West Brabant geweest. Daarna heeft hij bij de landelijke bestuursvereniging VVD en in de Goudse VVD afdeling zes jaar een bestuursfunctie bekleed.

Namens de VVD Gouda heeft hij 28 jaar als raadslid in de Gemeenteraad gezeten en ook was hij daar 2 jaar wethouder. In de Provinciale Staten was hij 25 jaar Statenlid. Bij Midden-Holland is hij 4 jaar lid van het dagelijks bestuur geweest (toen nog met 24 gemeenten).

Na ruim 50 jaar VVD stapte hij in 2005, samen met enkele andere VVD fractieleden, over naar de Gouda’s 50+ partij. Dat gebeurde toen de gehele fractie van de VVD de lokale afdeling verliet na een conflict over de kandidatenlijst van de partij bij de gemeenteraadsverkiezingen. Van Dijk is 4 jaar raadslid geweest voor Gouda's 50+ partij, en in 2010 werd hij bestuursvoorzitter.

Jan van Dijk werd in december 2014 door de vicevoorzitter en door de fractievoorzitter bedankt voor zijn inzet, goede adviezen en vooral zijn vriendschap. Tijdens zijn afscheidswoord liet hij weten dat hij nog steeds lid is van zijn jeugdliefde, de landelijke VVD, maar dat Gouda’s 50+ partij diep in zijn hart geworteld zit. Hij bleef de partij  steunen en adviseren en benadrukte de vriendschap in de afgelopen jaren bij de partij.