Los autores coinciden en que este apellido deriva de la voz latina oliva, en referencia al fruto o al árbol del olivo (Olea europaea), y presenta motivaciones diversas en su origen: podía aludir a quien producía o vendía aceitunas, a personas con tez aceitunada, o a quienes vivían cerca de olivares o los cultivaban. E. De Felice y F. Miranda señalan además que, para muchos apellidos de este grupo, la base no es el fruto o el árbol directamente, sino topónimos formados a partir de oliva y ulivo, como Oliva Gessi, Oliveto u Olivetta San Michele.

De Felice y Miranda coinciden en que, en la Sicilia occidental, el apellido puede derivar de Sant'Oliva, mártir de Palermo. Miranda agrega que el nombre fue probablemente introducido por los normandos —la forma Olive era común en la Francia medieval— y que está vinculado al culto de Santa Rosalía, representada frecuentemente con un ramo de olivo.

E. Rossoni indica que el apellido puede derivar también del nombre renacentista Ulivus, Olivus u Oliva. R. Brondolo propone, por su parte, que el apellido procedería de un matronímico Oliva, origen documentado en el norte de Italia.

El apellido tiene orígenes independientes en distintas regiones de Italia. Está muy extendido en toda la península, con presencia especialmente intensa en el sur. Rossoni documenta los Conti Oliva en Pennabilli, en la zona de Pesaro-Urbino, desde el año 1500, y presencia familiar en el norte de la zona de Como desde el año 1600.