En juillet 1672, François Dollier de Casson, supérieur du Séminaire de Saint-Sulpice, redessine la trame urbaine de Ville-Marie. Il souhaite ainsi faciliter l'accès à l'église Notre-Dame que l'on veut construire au coeur de la nouvelle grille et régulariser le développement de la ville selon un plan orthogonal. Accompagné de l'arpenteur et greffier Bénigne Basset, Dollier définit les nouvelles rues, leur donne des noms et appose des bornes.

Le nom Saint-Jacques est souvent associé à Jean-Jacques Olier de Verneuil, membre fondateur de la Société Notre-Dame, elle-même à l'origine de la fondation de Montréal. Il est aussi possible que Dollier de Casson ait repris le nom de Jacques Archambault, un des premiers habitants de la ville dont la propriété est traversée par cette rue.

À l'origine, la rue partait de la rue Saint-Gabriel pour s'arrêter avant la rue Saint-Pierre. Dollier de Casson établit la largeur de la rue à 18 pieds français (5,85 mètres). Lors de la construction de murailles de pierres, le tronçon situé à l'ouest de la place d'Armes coïncide avec une réserve de 48 pieds français (15,6 mètres) de largeur établi le long des remparts. Suite à la démolition des fortifications, ce tronçon est élargi à 60 pieds anglais (18,3 mètres) jusqu'à la rue McGill et sera connu sous le nom de « grande rue Saint-Jacques ». Le tronçon est, toujours de 18 pieds français, est appelé « petite rue Saint-Jacques » jusqu'à ce qu'il soit élargi du côté nord en 1868 pour atteindre la même largeur que le tronçon ouest. Pendant la deuxième moitié du XIXe siècle, la rue Saint-Jacques perd définitivement son caractère résidentiel et devient le coeur du premier centre des affaires de Montréal, véritable « Wall Street » du Canada. La présence des sièges sociaux des grandes institutions financières en font le coeur de la haute finance. Avec le temps les grands quotidiens montréalais s'y installent (The Montreal Star, La Presse, La Patrie). Désertée par le milieu bancaire pendant les années 1950 et 1960 (sauf pour la Banque de Montréal), la rue connaît un nouvel essor depuis les années 1970, grâce au milieu de l'administration. Le nouveau palais de justice construit de 1965 à 1971 a d'ailleurs entraîné la fermeture d'un petit tronçon situé à l'est du boulevard Saint-Laurent.