De orixe prelatina, Corominas (DCECH s.v. carba) considera esta palabra derivada da voz carba, conservada en leonés coa acepción 'tropeza, renovo de carballo, carballo miúdo, monte baixo, preferiblemente de carballo' e en galego como 'especie de carballo de folla miúda' (DdD) e 'monte baixo' (Navaza_Fitotop, p. 148). A partir destes significados, Corominas atribúe como significado básico desta raíz carb- o de 'ramallada', de onde 'arbusto' e 'carballo novo'. Meyer-Lübke propón un étimo *carvalya (REW). Nos textos latinos da Idade Media (ata o séc. XIII, normalmente) as voces desta familia presentan <U> e <B>, pero son maioritarias no primeiro dos casos: carval*: 438 formas / carbal*: 67, ambas desde o a.747 (CODOLGA); tal desproporción apunta a un étimo carv-.

A terminación está presente en varios topónimos prerromanos: gal. Torallo, Briallo(s), Navallo(s).

Consérvanse testemuños toponímicos en galego (Carballo), port. (Carvalho), asturiano (Carbayu), cast. (Carbajo), especialmente na zona occidental peninsular, así como múltiples derivados.