Nacido en el seno de una familia de actores, hermano de Pilar Bardem, cursó estudios de Ingeniería Agrónoma por gusto familiar más que por el suyo propio. Su hijo, Miguel Bardem, es también director de cine.

En 1947 ingresó en el Instituto de Investigaciones y Experiencias Cinematográficas, donde conoció a Luis García Berlanga. Ambos impulsaron la mejora del cine español de postguerra, pobre intelectualmente y carente de estética.

En 1953 dirigen juntos la película Esa pareja feliz protagonizada por Fernando Fernán Gómez. También participó como guionista en las películas de Berlanga Bienvenido Mr. Marshall (1952), Premio al Mejor Guión Humorístico en el Festival de Cine de Cannes, y Novio a la vista (1953). Ese año Bardem y otros artistas fundan Objetivo, una de las primeras revistas especializadas independientes.

También dirige Cómicos (1953), premiada en segundo lugar por el Sindicato Nacional del Espectáculo. Le siguen Felices Pascuas (1954) y Muerte de un Ciclista (1955), Premio Internacional de la Crítica en el Festival de Cine de Cannes. También en 1955 promueve las Conversaciones de Salamanca, un congreso que reúne a todos aquellos directores interesados en renovar el cine español. A esta reunión acuden cineastas como Luis García Berlanga, Carlos Saura y Basilio Martín Patino. Por esta época, Bardem es detenido en diferentes ocasiones por su militancia en el Partido Comunista desde 1943.

Con Calle Mayor (1956), Bardem obtendrá un gran reconocimiento internacional. La película, galardonada con el Gran Premio de la Crítica en el Festival de Venecia, es una adaptación de la novela La señorita de Trévelez, de Carlos Arniches. Más tarde rodará La venganza (1959), protagonizada por Carmen Sevilla y nominada al Óscar en la categoría de Mejor Película Extranjera. El largometraje fue premiado por el Sindicato Nacional del Espectáculo y ganador del Festival de Cannes. Ese año también dirige Sonatas (1959) y A las cinco de la tarde en 1961, filme de temática taurina.

Entrados los años 60 y durante los 70, el autor madrileño encuentra cada vez mayores dificultades para llevar a cabo sus proyectos. Por ello, decide recurrir a coproducciones internacionales y a rodar en el extranjero. De esta época son Nunca pasa nada (1963), una coproducción hispano–francesa; Los inocentes (1963), con la participación de productoras argentinas y galardonada con el Premio de la Crítica en el Festival de Berlín; Los pianos mecánicos (1965), filme realizado por Italia, Alemania, Francia y España; El último día de la guerra (1970), con capital italiano, estadounidense y español; Varietés (1971), protagonizada por Sara Montiel; y Les évasions célèbres (1972), coproducción de Francia, Austria, Italia y Hungría. También codirigió La isla misteriosa y el capitán Nemo (1973), basada en un texto de Julio Verne y protagonizada por Omar Sharif.

En 1973 dirige por primera vez a Marisol en La corrupción de Chris Miller, donde también actúa el propio Bardem. Esta colaboración tendrá continuidad en El Poder del deseo (1975). La crítica de sus películas durante aquellos años no fue demasiado buena pero al morir Franco, Bardem irá ganando el prestigio perdido.

Durante la transición española, Bardem dirige El Puente (1977), filme protagonizado por Alfredo Landa; galardonado con el Gran Premio a la Mejor Película en el Festival de Cine de Moscú. Su siguiente trabajo, Siete días de enero (1979), obtuvo la Medalla de Oro en el mismo festival, además del Premio al Mejor Director en el Festival de Cine Joven de Bruselas.

En 1982, rodó en Alemania la película Die mahnung (El recordatorio); en 1985, formó parte del reparto en la película Adiós pequeña, de Imanol Uribe, y al año siguiente rodó para televisión seis capítulos titulados Lorca, muerte de un poeta. En 1993, hizo lo mismo con la emisión televisada de El joven Picasso, poco acogida por el público. Su último filme es Resultado final (1998).

El director y productor madrileño ha obtenido varios reconocimientos por su trayectoria cinematográfica. En 1986 recibió la Medalla de Oro de las Bellas Artes. Un año antes de morir, en 2001, la Academia de las Artes y las Ciencias Cinematográficas de España le concedió el Premio Goya Honorífico.

En 2002 se publicó su autobiografía: Memorias de un hombre de cine.