Abdurrahman et-Tâhî hazretleri edep ve takva dolu bir yuvada dünyaya gelmiştir. Babası Molla Mahmud, Şirvanlıdır. Annesi Ehl-i beyttendir. Dedesinin adı Molla Muhammed'dir ve Hazreti Hüseyin radıyallahu anhın soyundandır.

Dedesi Seyyid Molla Muhammed ileri görüşlü, âlim ve kâmil bir zattır. Torunu Abdurrahman et-Tâhî kuddise sırruhûyu hassasiyetle ve dualarla yetiştirmiştir. Annesi de oğlunun yetişmesine ayrı bir özen göstermiştir.

Abdurrahman et-Tâhî hazretleri küçük yaşlarda Kur'an-ı Kerim’i ezberlemiştir. İslami ilimlerde yetişmiştir. 10 yaşlarına geldiğinde annesini kaybetmiştir. Bir müddet sonra babası onu Şirvan'ın meşhur alimlerinden Molla Abdussamed hazretlerinin yanına göndermiştir. O vefat edince de Gavs-ı Hizanî hazretlerinin yeğeni Molla Diyâüddin Arvasî hazretlerinden ders almıştır. Bu sırada henüz 13 yaşındadır. Hocasından istifade etmiş ve tasavvufun inceliklerine şahit olmuştur.

Tasavvuf yolunda asıl aradığını bulması ise mürşid-i kamili Gavs-ı Hizanî Seyyid Sıbgatullah Arvâsî kuddise sırruhû vesilesiyle olmuştur. O günlerde Gavs-ı Hizanî hazretleri Kulat köyünde ikamet ediyordu. Gavs-ı Hizanî hazretleri bir müridini Nurşin'e göndererek Abdurrahman et-Tâhî hazretleri ile görüşmek istediğini iletti. Böylece Abdurrahman et-Tâhî hazretleri yola koyuldu ve Kulat’a vardı. Gavs-ı Hizanî hazretlerine intisap etti.

Abdurrahman et-Tâhî kuddise sırruhû, Seyyid Sıbgatullah Arvâsî hazretlerinin izin vermesi üzerine dergâhta kalmaya başladı. Daha sonra Gavs-ı Hizanî hazretleri onu Ispahart kasabasına gönderdi. Ispahart'ta kadılık, görevini yerine getirdi. İnsanlara doğruyla yanlışı tarif etti, halka hizmet etti.

Abdurrahman et-Tâhî kuddise sırruhû iki yıl kadılık yaptıktan sonra Gavs-ı Hizanî hazretlerinin emriyle bu görevden ayrıldı. Mürşidi ona dergâhta hizmet vazifesi verdi. Abdurrahman et-Tâhî hazretleri, mürşidi Gavs-ı Hizanî hazretleri Kulat’tayken dokuz yıl yanında kaldı. Bu yılların ardından mürşidinden halifelik aldı.

Abdurrahman et-Tâhî kuddise sırruhû irşada başladığı ilk günlerde Verkânis köyüne gitmiştir. Orada Şeyh Muhammed Verkânisî hazretlerinin kabrini ziyaret etmiştir. Ardından hac ibadetini yerine getirmek üzere Hicaz'a gitmiştir. Orada İmam-ı Rabbani hazretlerinin torunlarından Şeyh Muhammed Mazhar hazretleriyle buluşmuştur. Hac dönüşü de insanları irşada başlamıştır.

Abdurrahman et-Tâhî hazretlerinin “Mektubat adlı bir eseri vardır. Bu eserinde sufilerine ve halifelerine yazdığı mektuplar derlenmiştir. Abdurrahman et-Tâhî kuddise sırruhûnun bir diğer eseri de İşaretler isimli kitaptır. Halifesi Molla İbrahim Çokreşî hazretleri tarafından derlenen bu eserde Abdurrahman et-Tâhî hazretlerinin sohbetleri, adabı ve bu yolun bazı incelikleri zikredilmiştir.

Abdurrahman et-Tâhî hazretleri Hicri 20 Rebiülevvel 1304, Miladi 16 Aralık 1886 Perşembe sabahının erken saatlerinde ahirete irtihal etmiştir. Bitlis'in Nurşin ilçesine defnedilmiştir. Altın Silsile ondan sonra Şeyh Fethullah Verkânisî kuddise sırruhû ile devam etmiştir.