Desde 1962, Chirac ocupó diversas secretarías de Estado junto al primer ministro Georges Pompidou.
A sugerencia de éste, en 1967 se presentó en la candidatura gaullista a la Asamblea Nacional y pasó a desempeñar un destacado cargo en el Ministerio de Asuntos Sociales.
En 1972 fue ministro de Agricultura.
Pompidou falleció en 1974 y Chirac, entonces ministro del Interior, consiguió la mayoría para el nuevo presidente, Valéry Giscard d'Estaing, aunque este no era gaullista.
Chirac fue nombrado primer ministro en mayo de ese año.
Pero dimitió en agosto de 1976 quejándose del presidencialismo de Giscard y al final de ese año fundó su propio partido: Agrupación para la República (RPR, en sus siglas en francés).
En 1977 obtuvo la mayoría en las elecciones municipales de París, con lo que se convirtió en alcalde de la capital francesa, preludio de su primera candidatura a la presidencia frente al propio Giscard en las elecciones de 1981.
En las que el candidato del Partido Socialista François Mitterrand consiguió la victoria por un estrecho margen, lo que inició un periodo presidencialista que duró 14 años (hasta mayo de 1995).
En 1986 Chirac se convirtió en primer ministro durante el periodo de ‘cohabitación’ (en lenguaje político: ejercicio del poder en un sistema presidencial, en el cual los cargos de jefe de gobierno y de presidente son ejercidos por tendencias distintas) con el socialista Mitterrand como presidente de la República.
En 1988 se enfrentó otra vez a éste en las elecciones presidenciales, de las que salió derrotado (54% frente al 45%).
Tras ese fracaso se concentró en su labor como alcalde de París.
Cuando, en las elecciones de marzo de 1993, las distintas fuerzas conservadoras obtuvieron una amplia mayoría parlamentaria, Chirac se mantuvo al margen, lo que permitió que Édouard Balladur se convirtiera en el último primer ministro de François Mitterrand.
Chirac mientras él se disponía a afrontar un tercer intento para alcanzar la presidencia en la primavera de 1995.