Al-Ghazali mulai menjalani pendidikan dasarnya secara formal di bawah bimbingan Ahmad Mu?ammad Al-Radzkani Al-Thusi, seorang Faqih. Sebelum beranjak usia 15 tahun (sekitar 465 H/1073 M), Al-Ghazali pergi ke Jurjan di Mazardaran untuk meneruskan pendidikannya. Namun tidak ada keterangan yang jelas mengenai berapa usia Al-Ghazali memulai pendidikannya. (Ahmad Nawawi, Perspektif Teologi & Filsafat Al- Ghazali & Hume , h. 62-63).
Sementara itu menurut Mu?ammad Yasir Nasution, ayahnya meninggal ketika ia dan saudaranya Ahmad masih kecil. Mereka kemudian dititipkan pada salah seorang teman ayahnya, seorang sufi yang hidupnya sangat sederhana. Suasana rumah tangga sufi ini menjadi lingkungan kedua yang turut membentuk kesadaran Al-Ghazali. Di sini mereka belajar Alquran dan hadis, mendengarkan kisa-kisah ahli hikmat, bahkan juga menghafal puisi cinta mistis. Ketika sufi yang mengasuk mereka tidak mampu lagi memehuni kebutuhan mereka, ia menganjutkan agar dimasukkan ke sekolah untuk mendapatkan ilmu dan santunan kehidupan sebagaimana lazimnya masa itu. (Mu?ammad Yasir Nasution, Manusia Menurut Al-Gazali , h. 30.)
Keahlian dalam bidang fikih beliau belajar pada Abu Nashr Al-Ismaili. Namun setelah dua tahun Al-Ghazali kembali lagi ke Thus dan berguru pada seorang syeh bernama Yusuf Al-Nassaj. Imam Al-Ghazali pada yang dikenal dengan 'masa pensiun' atau yang populer dengan ungkapan 'Period of Retirement' mulai tahun 488-505 H/1095-1111 M. Di puncak reputasinya sebagai Hujjat al-Islam, Al-Ghazali mengalami krisis spiritual.
Selain krisis spiritual, ia juga pernah disebutkan dalam autobiografinya Al-Munqidz min al-Dhalal (bebas dari kesesatan) ia menceritakan: pada bulan Rajab 488 H/Juli 1095 M (sekitar 6 bulan setelah diselesaikannya buku Ta?afut al-Falasifah [kerancuan para filosof]), ia mengalami krisis intelektual.
Menurut Al-Ghazali sendiri, sebenarnya pada waktu tinggal di Nisyapur, ia telah mengalami satu periode krisis yang pertama selama kurang lebih dua bulan. Di waktu krisis Al-Ghazali meragukan segalanya. Ia tidak bisa memercayai indera, bahkan akal pun ia tolak. Al-Ghazali berada pada sikap skeptis yang mendalam sehingga ia mempertanyakan hal-hal yang dharuriyat (kebenaran dasar yang sudah jelas).
Dalam kondisi krisis seperti ini, Al-Ghazali akhirnya memutuskan untuk mengundurkan diri dari jabatan prestisenya. Keputusan Al-Ghazali meletakkan gelar guru besar, meninggalkan karier dan kesuksesan hidup, sangat mengejutkan serta membingungkan publik pada masanya. Imam Al-Ghazali memulai kehidupan sufistik di Masjid Umayyah Damaskus, setelah ia meninggalkan Baghdad (Dzulqaidah 488H/November 1095 M).
Imam Al-Ghazali merasakan krisis diri yang kedua karena studi sufismenya. Dengan mengklaim bahwa ia telah menguasai doktrin dan ajaran kaum sufi seperti Al-Muhasibi (w.243 H/837 M), Al-Junaid (w.298 H/854 M), juga Al-Busthami (w.262 H/875 M), ia menyadari bahwa selama ini apa yang telah dicapai dan dilakukan, bukanlah benar-benar ikhlas karena Tuhan.
Ilmu-ilmu yang ia tekuni tidaklah berharga secara religius. Hal ini kemudian diperburuk dengan kesehatan fisiknya. Ia kehilangan kemampuan berbicara dan sistem lambungnya tidak dapat mencerna. Sementara para dokter yang merawatnya terpaksa menyerah. Terhadap penyakitnya tersebut, menurut Al-Ghazali, dokter berkata: ini adalah sebuah penyakit yang muncul dari problem kejiwaan. Dan untuk menyembuhkannya, tidak ada cara lain, kecuali menyibak rahasia-rahasia dari problem tersebut.
Pada konteks ini, terlepas dari pengakuan Al-Ghazali sendiri, MacDonald secara kritis mencurigai adanya faktor-faktor yang bersifat politis dalam pengunduran tersebut. Namun, Osman Bakar berpijak pada pendapat McCarthy menegaskan bahwa, cerita Al-Ghazali mengenai motifnyalah yang seharusnya kita terima, yaitu perubahan orientasi hidup ke dunia sufisme. Ia memilih jalur sufistik sebagai kehidupan baru (ultimate goal). Al-Ghazali menyadari bahwa satu-satunya harapan untuk merengkuh kepastian dan kenikmatan hidup selanjutnya terletak di jalan kaum sufi.
Sekitar dua tahun di Damaskus, ia pindah ke Yerusalem untuk meneruskan kontemplasinya dengan tinggal di Zawiyah19 yang berlokasi sekitar Dome of Rock (Kubah Batu). Dari sini, pada tahun yang sama (490 H/1097 M) sesudah berziarah di makam Nabi IIbrahim (Hebron), dia kemudian menuju Makkah dan Madinah untuk melakukan ibadah haji. Setelah mengasingkan diri kurang lebih hampir 11 tahun, Al-Ghazali akhirnya ke Nisyapur (sekitar 499 H/1106 M) untuk mengajar kembali ke Akademi Nizhamiyyah Nisyapur. Sekitar tiga tahun terlibat dengan aktivitas back to campus-nya (502 H/1109 M), Al-Ghazali meninggalkan kegiatan di Nisyapur untuk kembali ke Thus kota kelahirannya. Di sini, ia menghabiskan sisa hidup dengan aktivitas sufistiknya sampai kemudian wafat di usia 53 tahun pada 14 Jumadil Akhir 505 H/19 Desember 1111 M.
Selama masa pengembaraannya ini, Al-Ghazali mendapatkan kekayaan petualangan spiritual yang sangat luar biasa. Sepanjang petualangan ini ia memperoleh berbagai pengetahuan yang tidak mudah dideskripsikan. Salah satu produk kreatif dari pencerahan spiritualitas yang terjadi pada periode ini, terekspresi dalam Magnum opus-nya I?ya ?Ulum al-Din (menghidupkan kembali Ilmu-ilmu Agama). Pada tataran ini, Al-Ghazali sukses menegakkan kembali supremasi kehidupan spiritual (dimensi esoterik) dalam kerangka syariah (deminsi eksoterik). Ia bahkan berhasil menjembatani ketegangan akut yang terjadi antara pendekatan keberagaman formalisme fikih dengan spiritualisme tasawuf dalam dinamika normativitas dan historitas Islam.[]