De origen albanés, el apellido derivaría de la toponomástica albanesa: al sureste de Tirana se encuentra el distrito de Gramsh (también llamado Gramshi en albanés). El apellido llegó a Italia con la emigración albanesa entre los siglos XV y XVI, provocada por la ocupación otomana tras la muerte de Gjergj Kastrioti Skanderbeg. Entre los personajes notables figura el político, filósofo y escritor Antonio Gramsci (Ales, Oristano, 1891 - Roma, 1937), uno de los fundadores del Partido Comunista de Italia.