a) Belajar pada orang tua
Syeikh Abuya Muhammad Wali belajar belajar Al-Qur an dan kitab-kitab kecil tentang tauhid, fiqh, dan dasar ilmu bahasa Arab kepada ayahnya. Pembelajaran ini sering dilakukan pada malam hari sesudah shalat maghrib, sebagaimana lazimnya dilakukan oleh para masyarakat di Aceh.
b) Belajar di Vervolks-School
Disamping beliau belajar pada orang tuanya juga masuk sekolah Volks-School yang didirikan oleh Belanda. Pada usia tujuh tahun ia mulai belajar di sekolah Belanda tersebut yang terletak di Gampong Kuta Trieng Kecamatan Labuhan Haji Barat. Sekolah tersebut terkenal hanya untuk para putra bangsawan, sedangkan bahasa pengantar yang dipakai adalah bahasa Belanda. sekolah ini setara dengan sekolah dasar (SD) pada masa sekarang ini. Ia menamatkan dan menyelesaikan pendidikannya di sekolah itu selama 3 tahun.
c) Belajar di Dayah Jami’ah Al-Khairiyah
d) Belajar di Dayah Bustanul Huda
e) Belajar di Dayah Krueng Kalee
Setelah beberapa tahun belajar di Bustanul Huda pada tahun 1935 di usianya yang ke 18 tahun, ia melanjutkan pendidikannya ke pesantren Krueng Kalee di Aceh Besar. Sebagai bekal dalam perjalanan beliau dari Labuhan Haji, ayahanda beliau Syeikh Muhammad Salim memberikan sebuah kalung emas yang lain merupakan milik kakak kandung Syekh Muhammad Waly, yaitu Ummi Kalsum. Beliau diantar oleh ayahanda beliau dari desanya sampai ke kecamatan Manggeng. Setelah sampai ke Manggeng, ayahanda beliau berkata” Biarkan aku antarkan engkau sampai ke Blang Pidie”. Sesampainya di Blang Pidie, Syekh Muhammad Salim berkata kepada putranya, Abuya Muhammad Wali” biarkan aku antarkan engkau sampai ke Lama Inong”.
Pada kali yang ketiga ini, Abuya Muhammad Wali merasa keberatan, karena seolah-olah beliau seperti tidak rela melepaskan anaknya merantau jauh untuk menuntut ilmu. Abuya Muhammad Wali berangkat ke Aceh Besar ditemani seorang temannya yang juga merupakan tamatan dari pesantren Bustanul Huda, namanya Teungku Salim, beliau merupakan seorang yang cerdas dan mampu membaca kitab-kitab agama dengan cepat dan lancar. Sesampainya di Banda Aceh, beliau berniat memasuki Pesantren di Krueng Kale yang dipimpin oleh Syekh H.Hasan Krueng Kalee, Beliau sampai di Pesantren Krueng Kale pada pagi hari, pada saat Syeikh Hasan Krueng Kale sedang mengajar kitab-kitab agama. Diantaranya kitab yang dibacakan adalah kitab Jawhar Maknūn.
Syekh Abuya Muhammad Wali mengikuti pengajian tersebut. Sebelum Dhuhur selesailah pembacaan kitab tersebut, dengan kalimat terkhit Wa huwa hasbi wa ni`mal wakil. Setelah selesai pengajian Syekh Abuya Muhammad Wali merasa bahwa syarahan-syarahan yang diberikan oleh Syekh Hasan Krueng Kalee tidak lebih dari pengetahuan yang beliau miliki dan apabila beliau membacakan kitab tersebut maka beliau juga akan sanggup menjelaskan seperti syarahan yang dipaparkan oleh Syekh Hasan Basri. Walaupun demikian beliau tetap menganggap Syekh Hasan Krueng Kale sebagai guru beliau. Bagi Syekh Muda Waly, cukuplah sebagai bukti kebesaran Syekh Hasan Krueng Kale, apabila guru beliau Syekh Mahmud Blang Pidie adalah seorang alumnus Pesantren Krueng Kalee.
f) Belajar di Dayah Indrapuri
Syekh Abuya Muhammad Wali hanya satu hari di Pesantren Kreung Kalee, beliau bersama Tengku Salim mencari pesantren lain untuk menambah ilmu. Akhirnya merekapun berpisah. Pada saat itu ada seorang ulama lain di Banda Aceh yaitu Syekh Hasballah Indrapuri, beliau memiliki sebuah Dayah di Indrapuri. Pesantren ini lebih menonjol dalam ilmu Al-Qur’an yang berkaitan dengan qiraat dan lainnya. Syekh Abuya Muhammad Wali merasakan bahwa pengetahuan beliau tentang ilmu Al-Qur’an masih kurang. Inilah yang mendorong beliau untuk memasuki Pesantren Indrapuri. Pesantren Indrapuri tersebut dalam sistem belajar sudah mempergunakan bangku, suatu hal yang baru untuk kala itu. Pada saat mengikuti pelajaran, kebetulan ada seorang guru yang membacakan kitab-kitan kuning, Syeikh Abuya Muhammad Wali tunjuk tangan dan mengatakan bahwa ada kesalahan pada bacaan dan syarahannya, maka beliau meluruskan bacaan yang benar beserta syarahannya. Dari situlah Ustad dan murid-murid kelas itu mulai mengenal anak muda yang baru datang kepesantren itu dan memiliki pengetahuan yang luas. Maka ustad tersebut mengajak beliau kerumahnya dan memerintahkan kepada pengurus pesantren untuk mempersiapakan asrama tempat tinggal untuk beliau, kebetulan sekali pada saat itu perbekalan yang dibawa Syekh Abuya Muhammad Wali sudah habis, maka dengan adanya sambutan dari pengurus pesantren tersebut beliau tidak susah lagi memikirkan belanja.
Pimpinan Pesantren Indrapuri tersebut, Teungku Syekh Hasballah Indrapuri sepakat untuk mengangkat Syekh Abuya Muhammad Wali sebagai salah satu guru senior di Pesantren tersebut. Semenjak saat itu Syekh Abuya Muhammad Wali mengajar di pesantren tersebut tanpa mengenal waktu. Pagi, siang, sore dan malam semua waktunya dihabiskan untuk mengajar. Tinggallah sisa waktu luang hanya antara jam dua malam sampai subuh. Waktu waktu itupun tetap diminta oleh sebagian santri untuk mengajar. Selama tiga bulan beliau mengajar di Dayah tersebut. Karena padatnya jadwal beliau dan beliau kelihatan kurus, tetapi alhamdulillah walaupun demikian beliau tidak sakit.
g) Belajar di Normal Islam School
Setelah sekian lamanya di Pesantren Indrapuri, datanglah tawaran dari salah seorang pemimpin masyarakat yaitu Teuku Hasan Glumpang payung kepada Syekh Abuya Muhammad Wali untuk belajar ke sebuah perguruan di Padang, Normal Islam School yang didirikan oleh seorang ulama tamatan Al-Azhar, Mesir Ustad Mahmud Yunus. Teuku Hasan tersebut setelah memperhatikan pribadi Syekh Muda Waly, timbullah niat dalam hatinya bahwa pemuda ini perlu dikirim ke Al-Azhar, Mesir. Tetapi karena di Sumatra Barat sudah terkenal ada seorang Ulama yang telah menamatkan pendidikannya di Al Azhar dan Darul Ulum di Cairo, Mesir yang bernama Ustad Mahmud Yunus yang telah mendirikan sebuah perguruan di Padang yang bernama Normal Islam School yang sudah terkenal kala itu melebihi perguruan-perguruan sebelumnya seperti Sumatra Thawalib. Oleh sebab itu Teuku Hasan mengirimkan Syekh Abuya Muhammad Wali ke pesantren tersebut sebagai jenjang atau pendahuluan sebelum melanjutkan ke al Azhar. Setelah sampai di Normal Islam beliau segera mendaftarkan diri di Sekolah tersebut. Lebih kurang tiga bulan beliau di Normal Islam dan akhirnya beliau mengundurkan diri dan keluar dengan hormat dari Lembaga pendidikan tersebut. Hal ini beliau lakukan dengan beberapa alasan :
I. Cita-cita melanjutkan pendidikan kemana saja termasuk ke Normal Islam dengan tujuan memperdalam ilmu agama, karena cita-cita beliau mudah-mudahan beliau menjadi seorang ulama seperti ulama-ulama besar lainnya. Tetapi ilmu agama yang diajarkan di normal Islam amat sedikit. Sehingga seolah olah para pelajar disitu sudah dicukupkan ilmu agamanya dengan ilmu yang didapati sebelum memasuki pesantren tersebut.
II. Di Normal Islam pelajaran umum lebih banyak diajarkan ketimbang pelajaran agama. Disana diajarkan ilmu matematika, kimia, biologi, ekonomi, ilmu falak, sejarah Indonesia, bahasa Inggris, bahasa Belanda, ilmu khat dan pelajaran olahraga.
III. Di normal Islam beliau harus menyesuaikan diri dengan peraturan peraturan di lembaga tersebut. Di situ para pelajar diwajibkan memakai celana, memakai dasi, ikut olah raga disamping juga mengikuti pelajaran umum diatas. Menurut hemat Syekh Muda Waly, lebih baik beliau pulang ke Aceh mengamalkan dan mengembangkan ilmu yang telah beliau miliki daripada menghabiskan waktu dan usia di Sumatra Barat.
h) Belajar ke Arab Saudi (Makkah dan Madinah)
Ketika Abuya Abuya Muhammad Wali masih di Padang, beliau sangat terkenal di sana dengan kealimannya sehingga banyak tokoh ulama di Padang yang berkenalan dengan Muda Wali, salah satunya adalah Syekh Khatib Ali. ia sangat tertarik kepada Syekh Abuya Muhammad Wali sehingga beliau menjodohkan Syekh Abuya Muhammad Wali dengan seorang family beliau yaitu Hajjah Rasimah. Sejak itulah kemasyhuran Syekh Muhammad Wali semakin meningkat dan terus ditarik oleh ulama-ulama besar lainnya dalam kelompok para ulama kaum tua, tetapi beliau secara tidak langsung juga mengambil hal yang baik dari ulama-ulama lainnya, seperti orang tuanya Buya Hamka, Haji rasul. Kemudian Syekh Abuya Muhammad Wali juga berkenalan dengan Syekh Muhammad Jamil Jaho. Maka beliau mengikuti pengajian yang diberikan oleh Ulama besar Padang tersebut. Hubungan beliau dengan Syekh Muhammad Wali pada mulanya hanya sekadar guru dan murid. Syekh Jamil Jaho adalah seorang Ulama Minangkabau, murid Syekh Ahmad Khatib. Beliau diakui kealimannya oleh ulama lainnya terutama dalam ilmu bahasa Arab. Di Pesantren jaho itulah Syekh Muhammad Jamil Jaho mengumpulkan murid-muridnya yang pintar untuk mencoba pengetahuan Syekh Abuya Muhammad Wali pada lahiriyahnya mereka seperti mengaji pada Syekh Abuya Muhammad Wali tapi pada hakikatnya adalah untuk menguji dan mencoba Syekh Abuya Muhammad Wali dengan berbagai ilmu alat. Rupanya semua debatan tersebut dapat dijawab oleh Syekh Muhammad Wali. Dari situlah, Syekh Abuya Muhammad Wali semakin terkenal dikalangan para ulama Minangkabau. Akhirnya Syekh Abuya Muhammad Wali dinikahkan dengan putri Syekh Muhammad Jamil Jaho yaitu dengan seorang putrinya yang juga alim, Hajjah Rabi`ah yang akhirnya melahirkan Syekh H.Mawardi Waly. Akhirnya syekh Abuya Muhammad Wali menempati rumah pemberian paman istri beliau yang pertama, Hajjah Rasimah.
Pada tahun 1939 M, Syekh Abuya Muhammad Wali menunaikan ibadah haji ketanah suci bersama salah seorang istri beliau Hajjah Rabi`ah. Selama di Makkah, selain menunaikan ibadah haji, beliau juga memanfaatkan waktu untuk menimba ilmu pengetahuan dari ulama ulama yang mengajar di Masjidil Haram antara lain Syekh Ali Al Maliki.
Ketika Syekh Abuya Muhammad Wali berada di Madinah, ia berdiskusi dengan para ulama ulama dari negeri lain terutama dari Mesir. Beliau tertarik dengan dengan perkembangan ilmu pengetahuan di negeri Mesir, sehingga beliau sudah bertekat menuju ke Mesir, tetapi beliau lupa bahwa pada saat itu beliau membawa istri beliau Hajjah Rabi`ah. Istri beliau keberatan ditinggalkan untuk pulang ke Indonesia. Akhirnya beliau tidak jadi berangkat ke Mesir. Selama beliau di Makkah ataupun Madinah beliau tak sempat mengambil ijazah dalam thariqat apapun.
Hal ini dikarenakan dua keadaan:
I. Karena beliau berada di tanah suci lebih kurang hanya tiga bulan, waktu yang sangat singkat bagi beliau yang mempunyai cita-cita besar untuk menggali ilmu dari berbagai ulama. Sehingga habislah waktu beliau hanya untuk menemui dan berdiskusi dengan para ulama lainnya.
II. Pada umumnya para pelajar yang datang ke Tanah suci untuk mengamalkan thariqat, mengambil ijazah, dan berkhalwat harus berada di tanah suci pada bulan Ramadan. Karena pada bulan Ramadan halaqah pengajian sepi bahkan libur. Semua waktu dalam bulan Ramadhan ditujukan untuk beribadah. Sedangkan Syekh Abuya Muhammad Wali berada di Tanah suci bukan dalam bulan Ramadhan.
i) Pengembangan keilmuan dalam bidang tasauf
Kepulangan Syekh Abuya Muhammad Walidari tanah suci beliau mendapat sambutan dari murid murid beliau serta dari ulama ulama Minangkabau lainnya seoerti Syekh `Ali Khatib, syekh Sulaiman Ar Rasuli, Buya syekh Jamil Jaho. H. ini dikarenakan, dengan kembalinya Syekh Muda Waly, maka bertambah kokoh dan kuatlah benteng Ahlussunnah wal jamaah di padang khususnya. Dikalangan ulama ulama besar itu, Syekh Abuya Muhammad Wali merupakan yang termuda diantar mereka, sehingga dalam perdebatan perdebatan ilmu keagamaan yang populer pada masa itu, Syekh Abuya Muhammad Wali lebih didahulukan oleh ulama dari kelompok kaum tua untuk menghadapi ulama dari kaum muda. Uniknya kedua belah pihak (Ulama kaum Tua dan Ulama kaum Muda) menampilkan orang orang muda dari kedua belah pihak. Sehingga antara ulama tua dari kedua belah pihak seolah olah tidak terjadi perbedaan pendapat. Walaupun Syekh Abuya Muhammad Wali telah memiliki ilmu pengetahuan agama yang luas, namun ada hal yang belum memuaskan hati beliau yaitu ilmu yang beliau miliki belum mampu menenangkan batin beliau, akhirnya beliau memutuskan untuk memasuki jalan tasauf sebagaimana yang telan ditempuh oleh ulama-ulama sebelumnya. Apabila Ar-Raniri di Aceh mengambil tariqat Rifa`iyah dan Syekh Abdur Rauf yang lebih dikenal oleh masyarakat Aceh dengan sebutan Teungku Syiah Kuala mengambil tariqah Syatariyah maka, Syekh Abuya Muhammad Wali memilih Thariqat Naqsyabandiyah, sebuah tariqat yang popular di Sumatra Barat kala itu. Beliau berguru kepada seorang Ulama besar Tariqah di Sumatera Barat kala itu yaitu Syekh Abdul Ghaniy Al Kamfary bertempat di Batu Bersurat, Kampar, Bangkinang. Beliau bersuluk disana selama 40 hari lamanya. Menurut sebagian kisah menyebutkan bahwa selama dalam khalwatnya dengan riyadah dan munajat berupa mengamalkan zikir-zikir sebagaimana atas petunjuk Syekh Abdul Ghany beliau sempat mengalami lumpuh sehingga tidak bisa berjanji untuk mandi dan berwudhuk. Setelah selesai berkhalwat beliau merasakan kelegaan batin yang luar biasa jauh melebihi kebahagiannya ketika mendapat ilmu yang bersifat lahiriyah selama ini. Beliau mendapat ijazah mursyid dari Syekh Abdul Ghani sebagai pertanda bahwa beliau sudah diperbolehkan untuk mengembangkan thariqah Naqsyabandi yang beliau terima. Setelah mendapat ijazah thariqah beliau kembali ke Kota Padang dan mendirikan sebuah Pesantren yang bernama Bustanul Muhaqqiqin di Lubuk Begalung, Padang. Sebuah pesantren yang terdiri dari beberapa surau dan asrama. banyak murid yang mengambil ilmu di pesantren tersebut bahkan juga santri – santri dari Aceh. Tetapi pada saat jepang masuk ke Padang, Syekh Abuya Muhammad Wali mengambil keputusan pulang ke Aceh karena di Aceh beliau merasa lebih tenang dan nyaman dalam mengamalkan dan mengembangkan ilmu yang telah beliau miliki. Sehingga akhirnya Pesantren yang beliau bangun di Padang lumpuh.
Diantara guru yang pernah ia belajar, antara lain:
1. Syeikh H.M. Salim Aceh Selatan, ayah beliau sendiri.
2. Syeikh M. Idris Aceh Selatan.
3. Syeikh M. ‘Ali Lampisang, Aceh Besar.
4. Syeikh Mahmud Blang Pidie.
5. Syeikh H. Hasan Kureng Kale, Aceh Besar.
6. Syeikh Hasbullah Indrapuri, Aceh Besar.
7. Syeikh ‘Abdul Ghani Al-Khalidi Batu Basurek, Bangkinang Sumbar.
Wallahu’aklam bissawab
Penulis adalah Guru Dayah Raudhatul Ma’arif Cottrueng, Muara Batu, Aceh Utara.
Disadur dari berbagai macam sumber.