Après une formation universitaire en génie et en économie, il devient professeur à l'université complutense de Madrid, puis il travaille comme ingénieur.
Il intègre le PSOE en et se fait élire cinq ans plus tard au conseil municipal de Majadahonda, dans la banlieue de Madrid. Entre et , il est haut responsable au ministère de l'Économie et des Finances, d'abord comme secrétaire général, puis comme secrétaire d'État. Il est élu en député de Barcelone.
Il remporte en la primaire socialiste pour la désignation du chef de file électoral aux élections générales de 2000 face au secrétaire général du PSOE Joaquín Almunia. Il est alors promu porte-parole du groupe parlementaire socialiste. Il renonce au bout d'un an, en raison d'un scandale lié à d'anciens collaborateurs du ministère des Finances.
À l'occasion des élections européennes de 2004, il conduit la liste socialiste, qui arrive en tête du scrutin. Il est ensuite choisi comme président du Parlement européen pour la première moitié de la législature. Il ne se représente pas en et abandonne alors la vie politique. Il y fait son retour en , étant l'un des principaux opposants au projet d'indépendance de la Catalogne.