История города Капим-Гросу неразрывно связана с освоением внутренних территорий Бразилии, известных как сертан. Своим названием, которое переводится с португальского как «густой лимонник» (от слов «capim» — трава/лимонник и «grosso» — густой/плотный), поселение обязано обильной природной растительности. Именно густые заросли этой травы стали визитной карточкой местности в период её первоначального заселения.
Город возник из небольшого поселения, жизнь которого была сосредоточена вокруг сельского хозяйства и скотоводства. Географическое положение в штате Баия, характеризующееся экосистемой каатинга (засушливые равнины с колючими кустарниками), во многом определило экономический уклад региона. Основными факторами становления будущего муниципалитета стали выращивание зерновых культур и разведение скота, что позволило общине постепенно расти и укреплять свои позиции.
Ранний период истории Капим-Гросу не изобилует деталями, однако известно, что поселение развивалось как важный транзитный и производственный пункт в глубинке страны. Экономическая активность и приток жителей в конечном итоге привели к тому, что в конце XX века поселение переросло рамки простого сельского округа и заявило о своих правах на административную самостоятельность.