Pada usia 35 tahun Nabi, kabilah Quraisy memutuskan untuk merenovasi Ka’bah, suci yang telah berumur tua dan fisiknya rapuh. Sebelumnya, Ka’bah hanya berupa tumpukan batu tanpa atap, dengan tinggi sembilan hasta semenjak zaman Nabi Ibrahim AS. Keadaan ini menyebabkan kekhawatiran akan keamanan barang-barang di dalamnya, terutama dari potensi pencurian.
Selain itu, Ka’bah sering diserang oleh pasukan berkuda, yang merusak struktur bangunan dan menghancurkan sendi-sendinya. Lima tahun sebelum Nabi Muhammad diutus sebagai Rasul, Makkah dilanda banjir bandang yang hampir menghancurkan Ka’bah.
Para pemimpin Quraisy bersatu untuk merenovasi Ka’bah dengan prinsip bahwa mereka hanya akan menggunakan dana yang halal dan berasal dari sumber usaha yang baik. Mereka menolak dana dari transaksi ribawi atau hasil ketidakadilan. Awalnya, mereka ragu untuk merobohkan Ka’bah, tetapi al-Walid bin al-Mughirah al-Makhzumi akhirnya memimpin usaha tersebut.
Pada akhirnya, setelah melihat bahwa tidak ada bencana yang menimpa al-Walid, orang-orang Quraisy bergabung dalam proyek perombakan Ka’bah. Mereka mulai dengan merobohkan struktur yang sudah ada hingga mencapai fondasi yang diletakkan oleh Nabi Ibrahim AS. Kemudian, mereka mulai membangun kembali, dengan setiap kabilah menyumbangkan batu sesuai dengan jatah masing-masing.
Pemimpin proyek ini adalah seorang arsitek Romawi bernama Baqum. Namun, ketika tiba saatnya untuk meletakkan Hajar Aswad, terjadi pertikaian sengit tentang siapa yang berhak meletakkannya. Pertikaian ini berlangsung selama beberapa malam dan hampir berujung pada perang di tanah Al-Haram.
Untungnya, Abu Ummayah bin Al-Mughairah al-Makhzumi menawarkan solusi dengan mengizinkan siapa pun yang pertama kali memasuki pintu masjid menjadi pemutus perkara. Semua pihak menerima tawaran ini.
Allah SWT berkehendak, Nabi Muhammad adalah orang pertama yang memasuki masjid. Ketika orang-orang melihatnya, mereka berseru, “Inilah Al-Amin! Kami menerima, inilah Muhammad!”
Nabi Muhammad meminta sehelai selendang dan meminta agar Hajar Aswad ditempatkan di tengah-tengahnya. Seluruh kepala kabilah yang berselisih sepakat untuk memegangi ujung selendang itu dan mengangkatnya tinggi-tinggi.
Ketika Hajar Aswad berhasil ditempatkan kembali di tempat semula, semua orang menjadi puas dengan solusi yang bijaksana ini.