Pada awalnya kiblat menghadap ke Masjid Quba Baitul Maqdis. Kemudian, pada tahap pembangunan selanjutnya, kiblat menghadap ke Baitullah.
Dalam kisahnya, malaikat Jibril membantu Nabi SAW membangun Masjid Quba. Malaikat Jibril membantu mengarahkan arah kiblat kepada Nabi Muhammad SAW.
Masjid Quba terletak tepat di kawasan Quba, sebuah desa kecil sekitar lima kilometer barat daya kota Madinah. Ketika Nabi Muhammad SAW hijrah ke Madinah, orang pertama yang menyambut kedatangan Rasulullah SAW adalah masyarakat Quba.
Rasulullah SAW tiba di Quba pada Senin, 12 Rabi’ul Awal tahun 13 kenabian atau di usia 53 tahun. Menurut keterangan Mahmud Pasya al-Falaki, ulama ahli falak yang terkenal asal Mesir, hari kedatangan Nabi Muhammad SAW di Quba bertepatan dengan 20 September 622 M.
Ketika berada di Quba, Nabi Muhammad SAW menempati rumah Kalsum bin Hadam dari Kabilah Amir bin Auf. Di Quba inilah Rasulullah SAW mendirikan masjid di atas sebidang tanah yang dibeli dari Kalsum bin Hadam. Batu pertama diletakkan oleh Nabi Muhammad SAW sendiri, kemudian berturut-turut diletakkan oleh Abu Bakar, Umar, Usman, dan Ali bin Abi Thalib.
Selanjutnya pembangunan masjid dikerjakan oleh sahabat Muhajirin dan Ansar sampai selesai. Rasulullah SAW memberi prioritas untuk mendatangi Masjid Quba dan mempunyai kebiasaan mengunjunginya setiap Sabtu. Keutamaan masjid ini dijelaskan dalam sabda Rasulullah SAW.
Sahl bin Hunaif RA berkata, Rasulullah SAW bersabda, “Barang siapa bersuci (membersihkan diri dari najis dan hadas) di rumahnya kemudian datang ke Masjid Quba dan sholat di dalamnya, ia mendapatkan pahala seperti pahala umroh.” (HR Ibnu Majah)
Penjelasan tentang sejarah Masjid Quba ini dijelaskan dalam buku Tuntunan Manasik Haji dan Umroh yang dipublis Direktorat Jenderal Penyelenggaraan Haji dan Umrah (Ditjen PHU) Kementerian Agama, 2020.