
Pembunuhan ini adalah bertentangan dengan semua undang-undang kesusilaan di antara suku-suku, sebab Haris bin Umar ra. adalah utusan untuk menyampaikan surat. Rasulullah SAW sangat dukacita atas kematian Haris, lalu baginda mengumpulkan seramai 3000 pejuang yang gagah berani untuk menentang musuh yang jahat itu. Rasulullah SAW, melantik Zaid bin Harthah sebagai ketua pasukan.
Kemudian Baginda SAW, bersabda kepada para pejuang yang akan ke medan pertempuran: “Sekiranya Zaid terbunuh maka Jaafar bin Abi Talib hendaklah mengetuai pasukan dan jika Jaafar juga terbunuh maka Abdullah bin Rawahah hendaklah mengetuai pasukan. Dan sekiranva Abdullah juga terbunuh maka bolehlah kamu semua memilih seorang ketua di kalangan kamu orang yang kamu kehendaki.” Seorang Yahudi yang kebetulan berada di situ berkata: “Pasti ketiga-tiga mereka ini akan terkorban kerana ini adalah lumrah sebagaimana para-para Nabi yang terdahulunya selalu meramalkan.”
Sebelum tentera Islam berangkat menuju ke medan pertempuran, Rasulullah SAW memberikan sehelai bendera putih yang diperbuat sendiri oleh baginda SAW kepada Zaid. Rasulullah SAW menemani tentera-tentera Islam beberapa langkah di luar Kota Madinah dan baginda berdoa: “Semoga Allah SWT akan mengembalikan kamu semua dengan selamat dan memperolehi kejayaan. Semoga Allah memelihara kamu semua dari segala kejahatan.”
Dalam ragu-ragu itu Abdullah bin Rawahah dengan penuh semangat pejuang berkata dengan suara yang lantang: “Wahai para sahabatku, apakah yang membimbangkan kamu semua. Apakah tujuan sebenar kamu semua datang kesini? Bukankah kamu semua datang kesini untuk mati syahid. Kita sebagai pejuang-pejuang Islam tidak pernah memperjuangkan tenaga kita dengan kekuatan senjata dan kekuatan bilangan tentera. Perjuangan kita adalah semata-mata kerana Islam yang telah dimuliakan oleh Allah SWT ke atas setiap kita pejuang-pejuang agamaNya. Kita hendaklah mempastikan salah satu antara dua: Kemenangan atau syahid.” Apabila para sahabat yang lain mendengar kata-kata semangat dari Abdullah bin Rawahah, maka para sahabat pun bertekad untuk bertemu dengan tentera-tentera Kristian di medan peperangan Mauta. Apabila sampai di medan pertempuran, Zaid ra. menggenggam bendera di tangan dan mengarahkan tugas bagi menghadapi pertempuran, maka berlakulah pertempuran yang sengit di antara tentera Islam dengan tentera Kristian.
Dalam pertempuran yang sedang rancak berjalan itu, saudara lelaki Sarjil mati dan Sarjil sendiri melarikan diri dan bersembunyi di dalam sebuah kubu. Sarjil telah mengirim berita kepada Kaisar tentang masalahnya dan meminta bantuan tentera, maka Kaisar pun menghantar tenteranya yang gagah berani seramai 200,000 untuk membantu Sarjil. Tentera Islam tetap bertarung dengan semangat jihad walaupun angka tentera musuh jauh berbeza dari tentara Islam yang cuma 3000 orang sahaja.
Abdullah bin Umar ra. menceritakan, “Ketika kami mengangkat beliau keluar dari medan pertempuran. Kami dapat mengira bahawa terdapat 90 liang luka di badan beliau.”
Sewaktu Jaafar ra. terbunuh Abdullah bin Rawahah sedang makan daging di penjuru medan peperangan. Beliau sudah tiga hari kelaparan. Sebaik sahaja beliau mendengar berita tentang kematian Jaafar. Dengan segera beliau mencampakkan daging dengan berkata “Abdullah kamu ini asyik sibuk dengan makan, sedangkan Jaafar telah sampai ke syurga.”
Tanpa membuang masa Abdullah bin Rawahah terus mencapai bendera dan meluru ke arah musuh. Dalam pertempuran anak-anak jarinya banyak yang parah dan banyak yang tergantung dengan isi. Beliau meletakkan anak-anak jarinya ke bawah lalu dipijak dengan kaki dan ditarik sehingga jari-jarinya bercerai dari tangannya. Kemudian beliau terus mara dan beliau berhenti sebentar dan memikirkan tentera Islam yang sedikit berbandingkan tentera musuh yang ramai. Dalam tengah berangan-angan itu dia tersentak dan berkata ia dalam hatinya: “Wahai hati, apa yang menyebabkan kamu memikirkan demikian?” Adakah kerana cinta kepada isteriku? Kalau begitu aku ceraikan kamu pada saat ini juga. Adakah kerana hamba-hamba? Kalau begitu aku bebaskan mereka semua. Adakah kerana kebun? Kalau begitu aku berikan sebagai sedekah.”
Oleh kerana keletihan dan kelaparan, beliau turun dari kudanya, sementara sepupunya datang membawa sekeping daging kepadanya dengan berkata: “Kamu tidak dapat tidur dan makan kerana kelaparanmu selama tiga hari.”