La rue Vignon faisait précédemment partie de la rue de la Ferme des Mathurins.

L’ancien passage de la Ferme-des-Mathurins, et plus anciennement encore cul-de-sac de la Ferme-des-Mathurins (à la frontière des VIIIe et IXe arrondissements), desservait la ferme que possédait ici le couvent des Mathurins.
Une partie de la rue de la Ferme-des-Mathurins, comprise entre les rues des Mathurins et de Provence, ouverte en 1775, a été supprimée lors de l’ouverture du boulevard Haussmann.
Les frères Godot de Mauroy prolongèrent en 1823 la partie sud de ce chemin jusqu’à notre boulevard de la Madeleine. Par arrêté du 20 janvier 1881, la rue fut attribuée à l’architecte de l’église de la Madeleine, Pierre-Alexandre Vignon (1762-1846).
La partie de l’ancienne rue de la Ferme-des-Mathurins comprise entre la rue Vignon et le boulevard Haussmann a été englobée dans la rue dédiée à François Denis Tronchet (1726-1806), l’un des défenseurs de Louis XVI et des rédacteurs du Code Civil (ordonnance du 2 juin 1824).
Quant à la partie nord de la rue de la Ferme-des-Mathurins, entre le boulevard Haussmann et la rue de Provence, elle a été absorbée par la rue du Havre (ordonnance du 9 janvier 1845).