O termo é de origem árabe; os etimólogos arabistas aceitam com unanimidade a forma tabl, que Diez nomeia como maurische Panke (tímpano mouro). Espalhou-se o vocábulo na área românica. E além do português antigo atabal e tabal, deu no espanhol atabal, asturiano tabal, santanderinotabal, catalão tabal, italiano ataballo, taballo, provençal tabalh e moderno francês attabal. Assim como o pandeiro e o adufe, o atabaque se encontra presente na poética medieval, principalmente por obra dos Reis Católicos de Espanha, Isabel e Fernando de Aragão, que muito o prestigiavam, por meio dos jograis, bodas e outras festas.

É um instrumento oriental muito antigo entre os persas e os árabes, muito divulgado na África. Embora os africanos já conhecessem o atabaque, acredita-se que ao chegarem ao Brasil já o encontraram aqui, trazido pelos portugueses para ser usado em festas e procissões religiosas, como o pandeiro e o adufe. Desconhece-se a história de como passou a ser utilizado na capoeira.