Alfredo Ramos ingresó por oposición en la carrera fiscal como abogado-fiscal en diciembre de 1987. En 1992, fue promovido a la categoría de Fiscal. Aprobó la oposición de Juez en septiembre de 1987. Es Secretario Judicial desde noviembre de 1985.
Dentro de la carrera fiscal ha tenido como destinos la Audiencia Provincial de Lérida (1988-1990) y la Fiscalía del Tribunal Superior de Justicia de Madrid (1990-2006), en la que, entre otras funciones, asumió la coordinación de la Secretaría Técnica de esta Fiscalía. En 2003, a petición propia, se incorporó a la Sección de Menores de la Fiscalía de Madrid, donde desempeñó sus funciones en el área de Protección de menores.
En diciembre de 2006 fue nombrado Fiscal de la Fiscalía ante el Tribunal Constitucional, último cargo desempeñado antes del actual nombramiento.
Su actividad docente se ha desarrollado principalmente en la Universidad Carlos III de Madrid, en la Universidad de Alcalá de Henares y en otras instituciones como el Ilustre Colegio de Abogados de Madrid y distintos centros de formación en la práctica jurídica.
Durante varios años ha formado parte de los tribunales de oposiciones de acceso a las carreras judicial y fiscal.
Ha publicado diversos artículos científicos en revistas especializadas en el ámbito fiscal.