Sang bibi pun meyakinkan bahwa orang tersebut adalah nabi yang akan diutus di zaman sekarang.
Ketika itu juga Abdullah pergi menemui Rasulullah dan menyatakan masuk Islam.
Abdullah lalu pulang dan mengajak keluarganya turut masuk Islam.
Dan benar, keluarganya pun masuk Islam.
Akan tetapi, hal tersebut masih dirahasiakan Abdullah dari orang-orang Yahudi.
Abdullah bin Salam kembali menemui Rasulullah saw dan memberitahu bahwa orang Yahudi adalah kaum yang pintar berbohong.
Abdullah pun ingin agar dirinya masuk ke rumah Rasulullah dan merahasiakan keberadaannya dari kaum Yahudi.
Kemudian, Rasulullah menanyakan kepada mereka tentang kedudukan Abdullah di mata mereka sebelum masuk Islam. Akhirnya, Rasulullah pun memasukkan Abdullah ke rumahnya.
Saat ditanya tentang kedudukan Abdullah, kaum Yahudi menjawab:
"Ia pemimpin kami dan anak pemimpin kami. Ia uskup kami dan ulama kami."
Saat itulah Abdullah keluar dan mengatakan kepada kaum Yahudi untuk bertakwa kepada Allah SWT.
Ia juga menjelaskan bahwa Rasulullah adalah utusan Allah SWT yang tertulis di Taurat, lengkap dengan nama dan ciri-cirinya.
Akan tetapi, kaum Yahudi mengatakan itu adalah kebohongan, bahkan mengejeknya.
Keislaman Abdullah bin Salam tidak perlu diragukan lagi. Ia adalah umat yang taat.
Abdullah bin Salam bahkan oleh Rasulullah dijuluki sebagai penghuni surga yang berjalan di muka bumi.