Anggota sufi pada zaman Rasulullah saw adalah orang-orang yang menyediakan diri mereka semata-mata untuk Allah dan Rasul-Nya. Mereka berfungsi sebagai penyimpan ilmu al-Quran dan Hadis dan juga segala jenis ilmu agama. Mereka memancarkan ilmu-ilmu tersebut ke seluruh muka bumi. Inilah dasar yang perlu diperhatikan dalam memperkaitkan anggota suffah dengan ahli sufi yang datang kemudian.

Jihad yang paling besar adalah jihad mengangkat senjata dan orang yang mati karenanya memperoleh syahid. Pekerjaan yang begitu besar dan mulia dikecualikan dari anggota ilmu sepenuh waktu, apa lagi pekerjaan yang berhubungan dengan urusan mengisi perut. Pada zaman Rasulullah saw, kelompok yang bekerja khusus dalam bidang ilmu agama itu ditanggung oleh pemerintah, yaitu Rasulullah saw sendiri.

Karena anggota ilmu itu tidak melibatkan diri dalam urusan mencari rezeki, maka mereka tidak dapat mencapai kemewahan dan kesenangan. Mereka hidup di dalam kefaqiran. Mereka faqir pada pandangan dunia tetapi kaya dengan ilmu Tuhan dan Rasul-Nya. Lidah dan pena mereka adalah pedang jihad mereka. Ilmu yang mereka pelajari dan sebarkan itulah darah syahid mereka. Rasulullah saw mengakui bahwa kaum demikian sebagai kelompok yang paling dekat dengan derajat kenabian. Ilmu mereka adalah percikan ilmu nabi-nabi. Rohani mereka adalah cermin jernih yang menerima pancaran cahaya kenabian. Golongan seperti ini akan dikirimkan Tuhan dari waktu ke waktu pada setiap zaman. Tugas mereka adalah memperbaiki kerusakan yang terjadi pada ilmu agama, terutama dalam hal akidah.

Pemerintah Islam yang didirikan oleh Rasulullah saw dimulai di Madinah. Semakin besar pemerintah Islam semakin besar dan berat tugas yang dipikul oleh Rasulullah saw Beliau dibantu oleh empat orang 'Menteri Kanan'. Mereka adalah Abu Bakar, Umar, Usman dan Ali. Siapa pula 'pegawai' yang membantu Rasulullah saw dan 'Menteri-menteri' beliau? Mereka adalah anggota suffah yang bekerja sepenuh waktu untuk Rasulullah Kebanyakan dari waktu beliau dihabiskan di dalam masjid. Pengajaran, perencanaan, strategi, kebijakan, wawasan dan lain-lain keluar dari Rasulullah saw dan disebarkan oleh ahli suffah. Mereka menyampaikan berita yang Rasulullah saw mau sampaikan kepada kaum Muslimin. Anggota suffah yang bergerak tetap menjaga latihan militer berjalan dengan teratur sebagai persiapan mempertahankan agama dan negara Islam. Anggota suffah yang mengatur pembuatan senjata-senjata perang seperti baju besi dan pedang. Anggota suffah juga menggerakkan kaum Muslimin mempersiapkan unta dan kuda mereka agar ketika dibutuhkan semuanya berada dalam kondisi siaga. kehadiran anggota suffah, anggota masjid Nabi saw atau ahli sufi itulah yang memudahkan Rasulullah mengatur negara Islam dari dalam masjid beliau Ketika jumlah tentara Islam masih sedikit, anggota suffah ikut serta berperang. Jadi, anggota suffah adalah satu kelompok yang sangat aktif bekerja untuk Allah dan Rasul-Nya tanpa gaji. Apa yang Rasulullah berikan itulah bagian mereka untuk menghidupi kehidupan mereka. Mereka reda dengan yang demikian. Mereka lebih suka nama mereka tidak dikenal karena mereka tidak menemukan nama dan kebesaran. Apa yang mereka cari hanyalah ridha Allah dan Rasul-Nya.