Yang pertama kali melahirkan mata air Zamzam adalah malaikat Jibril as. Sebagai pemberian minum kepada Nabi Ismail as. Ketika kehausan pada waktu ia masih kecil, kemudian Nabi Ibrohim menggalinya sampai menjadi sumur. Selanjutnya Abdul Muttolib datuk Nabi SAW. Melahirkan kembali sumur Zamzam setelah menghilang lebih dari 500 tahun.
Adapun riwayatnya bahwa Allah Azza Wajalla memerintah nabi Ibrohim kekasihnya agar pergi dari Syam menuju tanah suci Allah (baitil harom) lalu nabi Ibrohim berangkat dengan menaiki kendaraan buroq, Ismail didepannya waktu itu masih menetek kurang lebih usia 2 tahun dan ibu Hajar dibelakangnya, malaikat Jibril menyertainya yang menunjukkan tempat lokasi Baitulloh, kemudian nabi Ibrohim menempatkan anak istrinya di Baituloh dekat pohon diatas Zamzam dataran tinggi masjid, pada waktu itu tiada seorang pun yang tinggal di Makkah dan juga tiada air, tiada bangunan dan tiada cocok tanam. Nabi Ibrohim memerintah istrinya agar membuat perkemahan ditempat itu. Ketika nabi Ibrohim hendak pulang kembali ke Syam, siti Hajar melihat tiada seorang pun didekatnya dan tiada air yang Nampak.
Siti Hajar meninggalkan anaknya ditempatnya mengikuti nabi Ibrohim kemudian berkata “wahai nabi Ibrohim kepada siapa engkau tinggalkan kami?, nabi Ibrohim diam sejenak tidak menjawab sampai beliau dekat pada tanah yang keras beliau menjawab, kepada Allah aku tinggalkan kalian, Siti Hajar bertany, apakah Allah memerintahmu demikian? Nabi Ibrohim menjawab “ya”,  Siti Hajar berkata mudah-mudahan Allah mencukupi kami, engkau tinggalkan kami kepada dzat yanga maha mencukupi, nabi Ibrohim keluar hingga berhenti pada tanah yang keras tiada bangunan, tiada naungan dan tiada sesuatu yang menghalangi selain anaknya Ismail, kemudian nabi Ibrohim memandang Ismail maka terdapatlah rasa kasih sayang seorang ayah terhadap anaknya, lalu berdo’a “Ya tuhan kami sesungguhnya aku telah menempatkan sebagian keturunanku dilembah yang tak ada tanam tanaman didekat rumahmua (baitikal harom). Siti Hajar pulang menuju anaknya dan hendak membuat perkemahan dilokasi hijir dari batang-batang pohon dan menaruh rancak-rancak diatasnya.
Ada riwayat bahwa nabi Ibrohim menaruh kantong kulit yang berisi kurma dan tempat air yang berisi air. Ketika airnya habis, maka Ismail haus dan ibunya (siti hajar) juga haus iar susu sudah putus, keadaan Ismil sepertinya sudah menunggal dunia, sang ibu mengira anaknya sudah meninggal, sang ibu terkejut sekali melihat keadaan seperti itu, lalu sang ibu berkata “seandainya ia meninggal sedangkan aku jauh darinya? Niscaya itu lebih mudah bagiku!”, kemudian malaikat Jibril menampakkan diri pada Siti Hajar kemudian pergi dengannya hingga berdiri diatas tempat Zamzam lalu malaikat memukul mukul tanah tempat Zamzam dengan tumit kakinya. Maka nampaklah air keluar pada permukaan bumi, Siti Hajar berusaha menahannya khawatir air putus sebelum sebelum ia menuangkan pada tempatnya, kemudian ia meminumnya dan cepat-cepat pergi ke anaknya segera meminumkannya.