Nilai ilmu Tasawuf dalam pandangan Islam tidak lepas dari sejarah terbentuknya istilah Tasawuf, hubungan sosial ummat Islam dengan ajaran agama lain, serta perkembangan pengetahuan Islam dari zaman ke zaman.
Pada dasarnya perkataan/istilah tasawuf bisa ditelusuri asal mulanya dari kata shuuf yang berarti wol/bulu domba yang biasa dipakai oleh para pesuluk (mutasawwif) dan kemudian dijadikan istilah bagi mereka.
Ada pula yang mengatakan bahwa kata tasawuf berasal dari kata Shoofa yang berarti bersih, suci, sesuai dengan para Pencari Tuhan atau sufi dalam kiat mereka membersihkan diri dari sifat-sifat buruk (takholli an akhlaqil madzmumah) dan sambil lalu mengisi diri dengan sifat-sifat baik (tahalli bi akhlaqil mahmudah).
Muncul juga peryataan lain, yang mengatakan bahwa istilah tasawuf berasal dari ahlus shuufah yaitu sebuah kelompok muslimin yang memilih hidup zuhud, sederhana dan sembari bernaung diemperan atau beranda Masjid Nabawi Rasulullah SAW, mereka beribadah, bertempat tinggal seumur hidup diberanda Masjid Nabawi. Dari kata ahlus shuufah ini, muncul asumsi bahwa tasawuf berasal darinya, yaitu sekumpulan muslimin yang hidup zuhud bersama Rasulullah SAW semasa hidupnya.
Dari beberapa istilah asal kata tasawuf diatas, masih banyak beberapa perspektif lain mengenai asal istilah Tasawuf. Apabila kita menelusuri lebih jeli, betul adanya bahwa Tasawuf memang lahir dari ajaran Islam, karena rujukan utama mereka adalah al-Quran, al-Hadits, serta riwayat-riwayat dari ajaran para pendahulu Islam.
Sebut saja dalam istilah tasawuf terdapat sebuah istilah sanad atau silsilah, dalam hal ini khusunya para sufi yang mengaplikasikan penyucian jiwa melalui thoriqoh mempunyai garis turun temurun yang berasal dari Rasulullah SAW, kemudian kepada Sayyidina Ali bin abi Thalib KW, Sayyidina Hasan, Sayyidina al-Husain, sayyidina Ali zainal abidin, Sayyidina Muhammad al-Baqir, Sayyidina Jafar shadiq, dan turun menurun melalui keturunan, murid-murid mereka serta para Sahabat Rasulullah SAW yang terpilih.
Dalam ordo sufi atau Thoriqoh sanad ini dikenal sebagai silsilah dzahabiyyah / silsilah ke-emas-an, yang berarti satu sama lain saling berkaitan, bersambung dan berhubungan secara metafisik/spiritual. Kita sering mendengar dan bahkan mengenal thoriqoh qaadiriyyah, Alawiyyah, syadziliyyah, naqsyabandiyyah, syattariyyah dsb, semua kelompok tersebut sama-sama bertumpu pada ajaran spiritual dan akhlak Rasulullah SAW.
Sebagai penutup, istilah tasawuf dalam Islam bukan hal yang asing seperti dikatakan para orientalis bahwa tasawuf bukan berasal dari ajaran Islam. Justru sebaliknya Tasawuf berasal dari Ajaran Islam sejak diajarkan kepada para Keluarga, Murid dan Sahabat Rasulullah SAW yang terdahulu.