ابوسهل خجندی در حکومت غزنویان به وزارت رسید. او به عنوان دبیر دیوان در غزنه فعالیت می‌کرد و پس از قتل وزیر پیش‌از خود، به این مقام رسید. وزارت ابوسهل خجندی در دوره‌ی حکومت سلطان ابراهیم بن مسعود غزنوی بود. به دلیل نداشتن منابع تاریخی کافی، جزئیات زندگی و کار ابوسهل خجندی بسیار کم‌تر از دیگر شخصیت‌های تاریخی آن دوران است. با این حال شماری از منابع تاریخی به شایستگی‌ها و دانش او اشاره کرده اند. ابوسهل به دلیل توانایی‌هایش در اداره‌ی امور دیوانی و دانش خود، برای این مقام انتخاب شده بود. اما بعدها، به دلایلی که هنوز روشن نیست، از مقام وزارت خلع و از حکومت ابراهیم بن مسعود غزنوی برکنار شد.
تا کنون اطلاعات کافی درباره‌ی زندگی و فعالیت‌های ابوسهل بعد از عزل از وزارت به دست نیامده است، بنابراین بسیاری از جوانب زندگی او هنوز مورد بررسی قرار نگرفته‌اند. در کل، ابوسهل خجندی به عنوان یک دولت‌مرد و وزیر فعال و با توانمندی‌هایی در امور دیوانی شناخته می‌شود، اما جزئیات بیشتری از زندگی و فعالیت‌های او باید کشف شود.
