Et rikt gravfunn fra folkevandringstiden (500 tallet) på Madla, forteller om velstand allerede på denne tiden.
Funnet ble gjort like ved Hafrsfjord skole og besto av 7 gullringer, 5 gullperler og 13 gullsmykker.
Her ble det sannsynligvis reist en kirke allerede på slutten av 1100 tallet. Den nevnes i en skriftlig kilde i 1298. Kirken var bygget i tre "under tak og uten tårn".
Utover i middelalderen nevnes kirken i flere forbindelser og eiendomsforholdet til kirken varierte.
De siste som eide Madla kirken var Ivar Oftedal og sønnene Jonas og Nicolai. Ivar hadde kjøpt bruk 1 i Madla der kirken var en del av bruket. De utvidet kirken ved å bygge på koret. Men de kommunale myndigheter mente at kirken var for liten til å kunne betjene en økende befolkning.
I 1865 ble den gamle kirken på Madla revet for godt. Det eneste minnet etter kirken er restene av det gamle kirkegårdsgjerdet nedenfor Hafrsfjord skole.
Innenfor gjerdet står en minnebauta over Johanne Margrethe Smith som ble gravlagt der i 1920. Etter 1865 da kirken ble revet er det ikke gravlagt flere på den gamle kirkegården. I dag er det bare minnebautaen og litt av steingjerdet rundt gravplassen som er synlig.