Su infancia transcurrió en su tierra natal, Cabra. Llegó a Madrid en 1835 para entrar de escribiente en el Ministerio de Marina. Pronto llegó a coronel honorario de artillería de Marina; más tarde sirvió de oficial en el Ministerio de la Gobernación y en 1851 como oficial de primera en el mismo Ministerio.

Su primera experiencia como parlamentario tiene lugar al salir elegido diputado suplente por Cabra, el 22 de noviembre de 1847; en aquellas Cortes tuvo notorias intervenciones sobre el nombramiento de empleados del Ministerio de la Gobernación y sobre los presupuestos del Ministerio de Marina: "... he tenido la honra, que para mi será siempre muy grande, de haber servido, no como oficial facultativo, sino como empleado, no para otra cosa que para hacer extractos y poner minutas en ese Ministerio" (Sesión de 22 de mayo de 1849).

Nuevamente es elegido diputado por Cabra en las elecciones del 31 de agosto de 1850. Tras la caída de Bravo Murillo será elegido diputado en las elecciones del 4 de febrero de 1853. Nuevamente diputado por las elecciones celebradas entre los días 25 y 26 de marzo de 1857, destacándose en aquellas Cortes por ejercer una firme oposición al gobierno de la Unión Liberal.

Vuelve a repetir como diputado por Cabra en las elecciones del 11 de octubre de 1863, pero renuncia al escaño al ser nombrado subsecretario de Gobernación el 20 de enero de 1864, cargo en el que se mantuvo hasta el 5 de marzo, cuando dimitió el Gobierno; y el 10 de marzo vuelve a salir como diputado. Estará al frente de la Dirección General de Obras Públicas en el Gobierno de Narváez, septiembre de 1864. En noviembre de 1864 es elegido nuevamente diputado, accediendo a la presidencia de forma interina desde el 21 de febrero de 1865 al 7 de marzo de 1865, sucediéndole en el cargo Fernando Álvarez Martínez.

También será diputado en las elecciones del 1 de diciembre de 1865, esta vez por el distrito de Montilla que engloba al antiguo de Cabra tras la reforma de la ley electoral; en aquellas Cortes, Belda destacó por liderar los debates sobre cuestiones presupuestarias celebrado en los meses de mayo y junio de 1866.

En marzo de 1867 será elegido diputado, también por el distrito de Montilla, accediendo a la Presidencia, por segunda vez, en calidad de interino, el día 30 de marzo: "Sres. Diputados, el acto que acaba de verificarse, no por tener calidad de provisional é interino, deja de revestir para mi los caractéres de un suceso que turba hasta cierto punto mi inteligencia y conmueve profundamente mi corazon" (Sesión de 30 de marzo de 1867); y el 4 de abril es elegido presidente del Congreso, en calidad de titular: "la lealtad inquebrantable, la adhesión sincera y constante a los principios fundamentales de nuestra existencia política... Sólo de esta manera, en las circunstancias graves que atravesamos... podremos salvar el Trono de nuestra augusta soberana, la honra, la independencia y los derechos del país" (Sesión de 4 de abril de 1867).

El 27 de junio de 1867 es nombrado ministro de Marina en el Gobierno de Narváez. Llevó a cabo una serie de reformas destinadas a contener el gasto que no fueron bien recibidas; dimitió en febrero de 1868. Dos meses más tarde volverá al Ministerio de Marina con el último Gobierno de Isabel II, que presidía González Bravo.

Caída la reina Isabel II, Belda aceptó la jefatura de los alfonsinos del duque de Montpensier, a partir de enero de 1872; en 1873 forma parte del círculo alfonsino de Madrid que presidía Cánovas del Castillo. Por decreto de 5 de febrero de 1875 se le concedió el título de marqués de Cabra; formó parte de un comité para la redacción del proyecto de Constitución y en enero de 1876 fue enviado a París como apoderado de Isabel II. Vuelve a ser elegido diputado en las elecciones del 20 de enero de 1876; preside la comisión del Congreso que dictamina sobre el matrimonio del rey Alfonso XII con su prima María de las Mercedes de Orleans.

Fue gobernador del Banco de España entre febrero de 1878 y marzo de 1881. Será elegido diputado por última vez en las elecciones del 20 de abril de 1879.

Estaba en posesión de las cruces de Isabel la Católica y Carlos III. Falleció en Madrid el 1 de enero de 1882.

La biografía procede de la publicación "Los presidentes del Congreso de los Diputados, 1810-2010" (2010), coordinada por Sofía Gandarias Alonso de Celis y Mateo Maciá Gómez, y editada por el Departamento de Publicaciones del Congreso de los Diputados. Los textos fueron realizados por ambos coordinadores, con la colaboración de Esperanza Prieto Hernández.