ربانی در سال 1963 دانشکده شرعیات کابل را به پایان رسانید و بعد در سال 1968 در دانشگاه الازهر مصر تحصیل کرد و در همانجا با جنبش اسلام گرای اخوان المسلمین از نزدیک آشنا شد.

او در جمله موسسان اصلی "نهضت جوانان مسلمان" در دهه 60 میلادی بود که آن جنبش در افغانستان بیشتر به نام "اخوان المسلمین"" شهرت یافت. او رهبری این نهضت را در سال 1972  به عهده گرفت.
 
رهبران آن جنبش اسلامگرا در زمان حاکیمت محمد داوود خان به دلیل فعالیت های قسماً مسلحانه مورد پیگرد قرار گرفتند. آنها در سال 1974  به پاکستان فرار کردند و از طرف حکومت سکولار ذولفقار علی بوتو، رییس جمهور وقت پاکستان به دلیل مخالفت با حکومت داوود خان روی مساله پشتونستان، مورد حمایت قرار گرفتند. در همان وقت، آنها اقدام به یک حمله مسلحانه در افغانستان علیه حکومت داوود خان کردند که به شکست مواجه شدند.

پس از سقوط حاکمیت محمد داوود خان، جنبش اسلامی فعالیت هایش را علیه حکومت وابسته به شوروی سابق در افغانستان گسترش داد. آن جنبش به زودی در اثر اختلافات، به هفت گروه جداگانه تقسیم و ربانی رهبر "جمعیت اسلامی افغانستان" شد.

ربانی بعد از سقوط رژیم نجیب الله در سال 1992  به کابل رفت و به وسیله شورای حل و عقد که  تحت تاثیر خود او قرار داشت، در 30  دسامبر سال 1992 به حیث رییس جمهور حکومت مجاهدین در افغانستان انتخاب شد.
 
طالبان در ماه سپتمبر سال 1996  با اشغال کابل به حکومت ربانی پایان دادند.  بعد از حملات نظامی ایالات متحده امریکا علیه حاکمیت طالبان  در 2001 و بعد از کنفرانس بن، حامد کرزی رییس جمهور دولت موقت افغانستان شد.

پس از آن، ربانی در انتخابات پارلمانی افغانستان خود را به عنوان نماینده مردم ولایت بدخشان نامزد نمود و به این ترتیب به پارلمان افغانستان راه یافت.

ربانی که در سیاست خیلی انعطاف پذیر بود، با بعضی از رهبران مجاهدین و کمونیست های پیشین، در سال 2007 جبهه متحد ملی را تشکیل داد.

دویچه وله / حسین مبلغ
ویراستار: عاصف حسینی