E. De Felice y F. De Laurentiis coinciden en que el apellido se formó a partir del nombre Ruffo, derivado del cognomen romano Rufus, formado a su vez del adjetivo de origen sabino o itálico rufus, equivalente al latín ruber ("rojo [de cabellos, de barba]").

De Felice precisa que el nombre, con el diminutivo Ruffolo, continúa al menos en parte —a través del latín del alto Medievo Ruffus y Ruffolus— el cognomen romano Rufus, con el diminutivo Rufulus. Considera probable también que, en el sur, el apellido tenga una etimología y origen germánico, especialmente para la gran familia calabresa de los Ruffo, que habría llegado al sur de Italia con los normandos.

De Laurentiis señala que el apellido está difundido en el sur.