История Мбужи-Майи неразрывно связана с одним из самых ценных природных ресурсов — алмазами. Возникнув в начале XX века как небольшой шахтёрский посёлок, город стремительно превратился в один из крупнейших центров Демократической Республики Конго и мировую столицу промышленной добычи алмазов.
Город был основан в 1914 году на землях, традиционно принадлежавших клану Бакванга, и изначально носил имя Бакванга. Его появление стало прямым следствием открытия в регионе колоссальных залежей алмазов. Развитие поселения было полностью инициировано бельгийской горнодобывающей компанией Société minière de Bakwanga (MIBA), которая организовала здесь лагерь для своих сотрудников. Таким образом, главным фактором становления города стало его уникальное расположение — он был построен прямо на одном из крупнейших в мире месторождений промышленных алмазов.
Своё современное название, которое переводится с местного языка чилуба как «козья вода», город получил в 1966 году. Оно отсылает к реке Мбужи-Майи, служившей важным водопоем для скота. С самого начала экономика была монопрофильной и полностью ориентированной на добычу и экспорт алмазов. Компания MIBA управляла не только шахтами, но и всей городской жизнью, превратив Мбужи-Майи в классический «компанейский город». Уже к 1960-м годам на долю местной добычи приходилось до 80% мирового объёма промышленных алмазов.
Ранний Мбужи-Майи (в то время Бакванга) представлял собой строго зонированное поселение с утилитарным характером, разделённое на жилые кварталы для рабочих, административные районы и зоны добычи под полным контролем MIBA. Резкий рост населения произошёл после обретения страной независимости в 1960 году. В этот период город стал важным центром для представителей народа луба, что спровоцировало массовую миграцию и привело к значительному увеличению числа его жителей. Именно они сформировали основу культурной среды города, отличая его от многих других колониальных центров.