Los autores coinciden en que este apellido deriva de la transformación en apellido del nombre de origen germánico Carlo. Dicho nombre está documentado en Italia desde mediados del siglo VIII, en sus formas latinizadas Carolus, Carlus y Carlonus, pero se afirmó entre los siglos X y XI por influjo directo del nombre franco Karl y por el prestigio de Carlomagno. El nombre franco Karl proviene del germánico karla-, que designaba al "hombre de condición libre" y, entre los francos, al "maestro de palacio" y luego "alto funcionario de la corte".

E. De Felice señala que el apellido tiene alcance panitaliano en sus formas principales y sus variantes. Càroli es frecuente en Emilia; las formas con el prefijo De predominan en el sur de Italia y también en la zona de Trento; Di Carlo es principalmente siciliano; Carlovich es propio de Friuli-Venezia Giulia; Carlesso y las formas apocopadas son principalmente del Veneto. El apellido incluye además variantes como Carlétto y Carlino, derivadas del mismo nombre de base.