Çağrı Bey ölüm döşeğinde iken, yerine oğlu Alparslan'ı bıraktığını açıkça bildirmiş ve vezîri Nizâmülmülk'ü vezir yapmasını kendisine vasiyet etmişti. Sultan Alparslan tahta geçer geçmez babasının vasiyetini yerine getirerek, Nizâmülmülk'ü derhâl kendisine vezir tâyin etti. Çocukluğundan beri yüreğinde taşıdığı, müslümanları tek bir bayrak altında toplama ve İslâm'ı dünyaya hâkim kılma ideâli doğrultusunda, vezîriyle birlikte önce devleti içten ıslâh etme gayretine yöneldi.

Nîzâmülmülk, Alparslan'ın İslâm birliği yolundaki mücâdelesinde büyük bir rol oynuyor, Sultân'ı bu yönde gayrete getirecek etkileyici sözler söylüyordu.

Yüksek bir ruha, engin bir devlet tecrübesine ve sarsılmaz bir imana sahipti. Devrin teröristleri tarafından şehid edilinceye kadar Selçuklu Devleti'nin başveziri olarak çok büyük hizmetler yapmıştı. "Nizâmülmülk" ismi bu hizmetleri sebebiyle kendisine layık görülmüştü.

Bir gün Sultan Alparslan'a:

"Sultân'ım! Horasan'da yüksek zâtın için öyle bir ordu hazırladım ki; bunların yardımı seni hiçbir zaman yalnız komaz, uğrunda hedeften şaşmayan oklar atıp dururlar. Bu ordunun neferleri ulemâ ve evliyâdır ki; bunlar dünyaya meyletmezler, sana ve orduna her dâim duâ kılarak yardım ederler!" diyerek, arkasındaki mânevî güç ve destekten kendisini haberdâr etmiş, kendisine ince bir üslupla hatırlatmada bulunmuştu.