De origen prelatino, Corominas (DCECH s.v. carba) considera esta palabra derivada de la voz carba, conservada en leonés con la acepción 'renuevo de roble, roble pequeño, monte bajo, preferiblemente de roble' y en gallego como 'especie de roble de hoja pequeña' (DdD) y 'monte bajo' (Navaza_Fitotop, p. 148). A partir de estos significados, Corominas atribuye como significado básico de esta raíz carb- el de 'ramaje', de donde 'arbusto' y 'roble joven'. Meyer-Lübke propone un étimo *carvalya (REW). En los textos latinos de la Edad Media (hasta el siglo XIII, normalmente) las voces de esta familia presentan <U> y <B>, pero son mayoritarias en el primero de los casos: carval*: 438 formas / carbal*: 67, ambas desde el a.747 (CODOLGA); tal desproporción apunta a un étimo carv-.

La terminación está presente en varios topónimos prerromanos: gall. Torallo, Briallo(s), Navallo(s).

Se conservan testimonios toponímicos en galego (Carballo), port. (Carvalho), asturiano (Carbayu), cast. (Carbajo), especialmente en la zona occidental peninsular, así como múltiples derivados.