Moins d'un mois plus tard le 8 mai 1967, Jacques Chirac — surnommé « mon bulldozer » par Georges Pompidou — est nommé secrétaire d'État à l'Emploi, dans le gouvernement Pompidou (et servira encore dans tous les gouvernements successifs, dirigés par Maurice Couve de Murville, Jacques Chaban-Delmas et Pierre Messmer jusqu'en 1974). L'une de ses premières réalisations est la création de l'Agence nationale pour l'emploi. Durant mai 1968, il joue un rôle capital lors des Accords de Grenelle et devient l'archétype du jeune énarque brillant, parodié dans Astérix. Aussitôt après mai 68, il est nommé secrétaire d'État à l'Économie et aux Finances, chapeauté par le jeune ministre Valéry Giscard d'Estaing. Les deux hommes se méfient l'un de l'autre tout en travaillant ensemble : Jacques Chirac n'est pas mis dans la confidence de la dévaluation du franc, en 1969.

En 1971 il devient ministre chargé des relations avec le Parlement, puis, le 5 juillet 1972, il est nommé ministre de l'Agriculture et du Développement rural, dans le gouvernement Messmer, où il se fait remarquer en obtenant massivement les voix des agriculteurs. En novembre 1973, soutenu par le Président, il revient sur des décisions de Valéry Giscard d'Estaing, alors en voyage.

Le 27 mai 1974, en raison de son rôle décisif dans son élection, Valéry Giscard d'Estaing nomme Jacques Chirac Premier ministre. Il conserve l'appui de l'Union pour la défense de la République (qui ne compte que cinq ministres) dont il devient le secrétaire général, sans même en avoir été membre. À Matignon, il instaure un style détendu et studieux, tout en débutant un bras de fer avec le Président. Tous deux désirent gouverner le pays et possèdent un caractère très différent : leur rivalité est la même depuis leurs tensions au ministère des Finances. De plus, Jacques Chirac se voit imposer par le président un grand nombre de ministres qu'il n'apprécie pas. C'est notamment le cas de Michel Poniatowski et Jean-Jacques Servan-Schreiber, tous deux fermement anti-gaullistes. Jacques Chirac se débarrasse rapidement du co-fondateur de L'Express sur la question des essais nucléaires. « JJSS » y est opposé et le fait savoir, ce qui le pousse à la démission. Pour le remplacer, Valéry Giscard d'Estaing impose à Jacques Chirac le second co-fondateur de L'Express en la personne de Françoise Giroud, qui devient secrétaire d'État.

Les réformes entreprises par Valéry Giscard d'Estaing surprennent puis agacent les gaullistes. Majorité à 18 ans, loi sur l'avortement, extension de la couverture de sécurité sociale, la « poignée de main » à des détenus en prison, tout cela n'est pas du goût de l'UDR et va à l'encontre des idéaux de l'électorat de droite. Les relations se tendent entre les deux têtes de l'exécutif. Les deux conseillers personnels de Jacques Chirac, Pierre Juillet et Marie-France Garaud, le poussent même à la rupture avec Valéry Giscard d'Estaing.

Le 11 janvier 1976, le Président effectue un remaniement ministériel contre l'avis du Premier ministre, qui dénonce le pouvoir exercé par Valéry Giscard d'Estaing et demande une refonte complète de sa politique. Après une rencontre au fort de Brégançon, Jacques Chirac décide de démissionner de son poste, geste qu'il annonce le 25 août 1976. Il déclare à la télévision : « Je ne dispose pas des moyens que j’estime aujourd'hui nécessaires pour assumer efficacement mes fonctions de Premier ministre et dans ces conditions, j'ai décidé d'y mettre fin ». Jacques Chirac aurait affirmé à Valéry Giscard d'Estaing « qu'il voulait quitter la vie politique […] et qu'il s'interrogeait sur sa vie, et qu'il parlait même de monter une galerie d'art ».