Seorang sufi pastilah seorang zahid, tapi belum tentu seorang yang zahid itu adalah sufi. Seorang salik (pejalan spiritual) jika ia ingin belajar tasawuf maka ia harus dibawah bimbingan seorang mursyid yang nasabnya sampai kepada Nabi Muhammad SAW. Di tangan mursyid inilah salik diajarkan cara berdzikir, menyucikan jiwa, dan latihan-latihan spiritual yang sulit dan jalan yang panjang.
Inti ajaran sufi sebagai suatu ilmu pengetahuan adalah mempelajari cara dan jalan bagaimana seseorang dapat berada sedekat mungkin dengan Allah SWT. Untuk selalu dekat dengan Allah SWT maka harus ada kesungguhan dalam mengendalikan diri pribadi atau sikap kontrol diri yang disebut dengan mujahadah dan latihan jiwa (riyadhah) yang ketat dan disiplin tinggi.
Dalam perjalanan ini sang sufi menempuh jalan panjang yang berisi maqamat (stages) merupakan jamak dari maqam dan hal (states) yang merupakan jamak dari ahwal. Jalan yang ditempuh ini sangat licin dan menghendaki usaha yang berat dan waktu yang tidak singkat. Terkadang seorang sufi harus bertahun-tahun tinggal dalam satu maqam. Maqamat bisa berbeda-beda antara satu tokoh sufi dengan tokoh sufi lainnya baik penamaan maupun urutannya, karena memang pengalaman spiritual ini bersifat subyektif. Contoh maqamat Al-Sarraj : Tobat – wara’- zuhud – kefakiran – sabar – tawakal – ikhlas. Sedang Al-Ghazali: tobat – sabar – kefakiran – zuhud – tawakal – cinta – ma’rifat – kerelaan.
Hal merupakan keadaan mental seperti perasaan senang, perasaan sedih, perasaan takut dan sebagainya; diperoleh sebagai anugrah dan rahmat dari Tuhan; dan bersifat sementara.
Ciri lain dari ajaran sufi adalah tarekat. Para tokoh sufi biasanya mendirikan tarekat yang nama tarekatnya diambil dari nama pendirinya. Tarekat artinya dapat sebagai suatu jalan untuk mendekatkan diri kepada Tuhan; atau artinya juga dapat sebagai tasawuf yang sudah melembaga atau bisa juga disebut ordo sufi/organisasi sufi. Dengan tarekat ini ajaran atau pemikiran seorang tokoh sufi dapat dilestarikan secara turun temurun dan menjangkau murid yang lebih banyak. Organisasi/ordo sufi ini memiliki hierarki kepemimpinan, inisiasi atau baiat, formula zikir, dan silsilah yang diyakini sampai kepada shahabat Nabi SAW.
Dalam sejarah Islam, tarekat menghasilkan budaya perkembangan intelektual di seluruh dunia Islam. Peran tarekat sangat berpengaruh dalam penyebaran Islam di dunia seperti India, Afrika dan Asia Timur. Sebagian besar Asia Tengah dan selatan Rusia dimenangkan Islam melalui karya tarekat, dan Indonesia, di mana tentara Muslim tidak pernah menginjakkan kaki, Islam masuk dengan dipengaruhi oleh pedagang Muslim dan para Sufi. Di setiap wilayah, umumnya mereka mendirikan zawiya atau khanqah sebagai tempat pertemuan, pendidikan dan latihan spiritual atau meditasi berat. Contohnya adalah Hilaliyya Zawiya di Suriah dan banyak Zawiya sekarang terletak di Lefka, Siprus dan wilayah – wilayah yang termasuk bagian dari Naqshbandiyah. Ada beberapa organisasi atau sub-zawiyah berafiliasi dengan Zawiya ini yang tersebar di seluruh dunia.
Masjid Sufi ditemukan di banyak masyarakat Muslim di seluruh dunia, dan disebut dengan banyak nama. Dulu para sufi beribadah di rumah-rumah, namun seiring berkembangnya waktu di mana pengikut aliran tasawuf bertambah, pada akhirnya didirikanlah institusi tempat tarekat untuk belajar dan mendalami tasawuf.
Khanqah atau khaniqah adalah sebuah bangunan yang dirancang khusus untuk pertemuan-pertemuan dari persaudaraan Sufi, atau tarekat. Khanqah sangat sering ditemukan satu wilayah dengan dargah, masjid dan madrasah (sekolah Islam). Dargah adalah kuil Sufi Islam yang dibangun di atas makam seorang pendiri sebuah tarekat, tokoh agama dan Sufi yang dihormati. Lokal Muslim dapat mengunjungi kuil untuk melakukan praktik mengunjungi kuburan (ziyarah). Mereka biasanya termasuk sebuah masjid, ruang pertemuan, sekolah-sekolah agama Islam (madrasah), tempat tinggal bagi para guru atau pengasuh, rumah sakit, dan ruangan untuk sufi yang ingin melanjutkan zikir mereka dalam tenang dan isolasi, dan bangunan lain untuk tujuan masyarakat. Istilah ini berasal dari kata Persia. Beberapa Muslim percaya bahwa dargah dimana mereka dapat meminta doa dan berkat almarhum. Yang lain memegang pandangan bahwasannya tempat ini cukup dikunjungi sebagai sarana berdoa untuk membayar penghormatan kepada orang saleh yang meninggal. Mereka ditemukan di seluruh Islam pengaruh Persia khususnya Iran, Asia Tengah, dan Asia Selatan.
Di dunia Arab, terutama Afrika Utara, disebut sebagai zawiyya. Di Turki dan daerah Ottoman seperti Albania dan Bosnia, mereka secara lokal disebut sebagai tekke atau takijah. Semua tempat, terlepas dari ukuran, memiliki aula tengah yang besar. Salat dan doa ritual harian kewajiban semua Muslim diadakan di aula ini, karena ini adalah bentuk khusus tasawwuf dari zikir, meditasi, dan perayaan.
Ada Ribat yang pada awalnya digunakan sebagai istilah tempat di perbatasan sebagai benteng pertahanan dan perlindungan jalur perdagangan di mana pengembara (terutama tentara) bisa tinggal. Istilah berubah dari waktu ke waktu dan menjadi dikenal sebagai tempat perkumpulan dan pusat persaudaraan Sufi dan kaum Muslim pengasingan. Biasanya ribat dihuni oleh Ulama dan tamunya diizinkan untuk datang dan belajar darinya. Tempat ini digunakan sebagai tempat ibadah dan semacam sekolah di mana sang ulama bisa mengajar murid-muridnya cara-cara tarekat sufi tertentu.
Saat ini, banyak gerakan sufi telah dilarang di beberapa negara mayoritas Muslim (seperti sekuler Turki, Islam Iran, Wahabi Saudi Arabia, atau Komunis dan negara-negara pasca Komunis Asia Tengah). Di negara-negara ini, tempat – tempat zawiya atau khanqah telah diubah menjadi museum atau masjid. Di negara lain, tasawuf bertahan dan khanqah lama masih digunakan.
