Au Moyen Âge, le village était divisé en petits fiefs appartenant à des familles diverses. Une partie était du ressort de la baronnie de Cossonay et une autre relevait du Château de Morges. 

A l'Ouest du village se trouvait un important établissement romain au lieu dit "En Allaz". Les découvertes effectuées sur ce site sont aujourd'hui exposées au Musée cantonal. A quelques pas des ruines existe un cimetière helvético-burgonde. Parmi les personnalités célèbres originaires de Grancy, on peut citer le docteur Tissot, né en 1728, pionnier de la vaccination antivariolique, médecin des pauvres, mais que les riches d'Europe venaient consulter. Grancy est aussi le lieu de naissance du landammann Auguste Pidou, l'un des premiers magistrats du canton de Vaud de 1803 à 1821, année où il termina son honorable carrière après avoir occupé le siège de président du Grand Conseil.