ابو اسماعیل عبدالله پسر ابومنصور محمد انصاری هروی غروب روز جمعه دوم شعبان 396 هـ.ق در کهندز هرات از مادری که اهل بلخ بود تولد یافت. خانواده‏اش نسب به ابوایوب خالد بن یزید انصاری (وفات: 5 هـ.ق) صحابی معروف می‏رسانید. این ابوایوب همان کسی است که رسو ل اکرم (ص) هنگام هجرت از مکه به مدینه در خانه‏آش فرود آمد و به همین مناسبت میزبان خوشبخت را صاحب رحل خواندند.

عبدالله که فرزند محبوب خانواده بود، از همان سالهای کودکی از استادان فن، علم حدیث و تفسیر آموخت. از جمله استادانش یحیی بن عمار شیبانی را نام برده‏اند که از شیراز به هرات آمده و به تعلیم و تدریس مشغول بود و سعی داشت که سنت عرفا را با شریعت تطبیق دهد و این راه و روش در مشرب شاگردش نیز اثری پایدار به جا گذاشت. بنا بر مشهور در همان سنین، به یمن حافظه قوی جلب نظر کرد و در کسب مقدمات و حفظ قرآن و اشعار عربی امتیازی یافت.

هر چند استادانش شافعی مذهب بودند دیری نگذشت که مذهب حنبلی اختیار کرد. به سال 417 هـ.ق در 21 سالگی برای تکمیل تحصیلات به نیشابور رفت. سپس به طوس و بسطام سفر کرد و به سماع و ضبط حدیث همت گماشت. در سال 423 هـ.ق عازم سفر حج شد و بر سر راه مکه در بغداد توقف کرد تا مجلس درس ابومحمد خلال بغدادی (وفات: 439 هـ .ق) را درک کند. در بازگشت از سفر حج به زیارت ابوالحسن خرقانی (وفات: 425 هـ.ق) صوفی نامور نایل شد. این ملاقات در وی سخت مؤثر افتاد و ذوق عرفانی او را که به برکت تلقین پدر در وجودش جوانه زده بود به بار آورد. از دیگر مشایخ صوفیه عصر خود مانند شیخ ابوسعید ابوخیر نیز درک فیض کرد.

سرانجام به زادگاه خود بازگشت و در آنجا مقیم شد و تعلیم مریدان مشغول گردید. در روزگاری که امام الحرمین، فقیه شافعی مشهور، در نظامیه نیشابور فقه شافعی و کلام اشعری درس می‏داد با علم کلام مخالفت ورزید و درذم آن، کتاب نوشت. به همین سبب چند بار تهدید به قتل شد و حتی به فرمان خواجه نظام الملک از آن شهر تبعید گردید. وزیر پرکفایت سلجوقیان هرچند به پاس تقوا و دانش پیرهرات، حفظ حرمت وی می‏کرد و او را از تعرض معاندان مصون می‏داشت، اجازه نمی‏داد بر اثر وجود وی در شهر آتش فتنه برانگیخته شود.

خواجه عبدالله که شیخ الاسلام لقب گرفته و مریدان بسیاری در هرات به هم زده بود در پایان عمر نابینا گردید. وی صبح روز جمعه 22 ذی الحجه سال 481 هـ.ق به سن 85 سالگی در گذشت و در گازرگاه (ده کیلومتری هرات) به خاک سپرده شد. آرامگاهش در همان محل برجاست.