Après avoir commandé un avant-projet à Léon Ohnet, le baron James de Rothschild choisit finalement l'architecte français d'origine allemande Jacques Ignace Hittorff. La construction dure de mai 1861 à décembre 1865, mais la nouvelle gare est mise en service dès 1864, l'aile de l'arrivée n'étant pas encore achevée. La surface de la nouvelle gare atteint 36 000 m2, soit le triple de l'ancien embarcadère. Le nombre de voies est porté à huit, dont quatre au centre affectées à la banlieue, encadrées de deux voies pour les départs et deux voies pour les arrivées grandes lignes. Deux voies médianes sont également mises en service entre les voies 2-4 et 5-6, afin de permettre aux machines de s'échapper pour les repositionner en tête des convois. L'avant-gare à hauteur de La Chapelle compte alors six voies, et des sauts-de-mouton sont réalisés afin d'éviter toute interférence entre itinéraires
