في بلدته نشأ وتلقى علومه الأولية، وبدأ بحفظ القرآن الكريم وبعض المتون في اللغة والفقه المالكي، ثم انتقل إلى مدينة بسكرة، ودرس على مشايخها جملة من العلوم النقلية والعقلية التي أهلته للتدريس في إحدى المدارس الأهلية
اسمه أبو بكر جابر بن موسى بن عبد القادر بن جابر الجزائري، ولد أبو بكر الجزائري في قرية صغيرة يطلق عليها اسم ليوا، هذه القرية قريبةٌ جداً من مدينة طولقة، التي تقع في ولاية بسكرة التي تقع في جنوب بلاد الجزائر، وقد كان مولده في العام 1921م.
قام بالدراسة على أيدي المشايخ والعلماء الذين كانوا فيها، وقد درس على أيديهم العلوم النقلية والعلوم العقلية التي كانت سبباً في تأهيله للانتقال في التدريس في المدارس الأهليّة في المدينة، ثمّ قام بعد فترة من الزمن بالانتقال مع أسرته للعيش في المدينة المنورة مدينة رسول الله صلّى الله عليه وسلّـم وقد قام بعد وصوله إلى المدينة بالبدأ مباشرة في استمرار في تلقي العلم من مشايخ وعلماء المدينة الذين كانوا يأتون ويترددون إلى المسجد النبوي الشريف، فقد تمسّك والتزم في حلقات القرآن الكريم وحلقات العلم والدروس والمواعظ، حيث أنّه بعد ذلك كان قد حصل إجازةٍ من رئاسة القضاء والتي كانت في مكة المكرمة في ذلك الوقت، وقد كانت هذه الإجازة من دار القضاء للسماح له بأخذ دور المعلم والتدريس في المسجد النبوي الشريف بعد أن كان قد تميّز في علمه، وعرف عنه صلاحه وتقواه فأصبح نتيجة لذلك مدرساً ومعلماً، وأصبح له حلقة يعلم فيها الطلاب حفظ وتفسير كتاب الله عزّ وجلّ، ويعلمهم أيضاً الحديث الشريف وعلومه ونحو ذلك من الأمور التي كانت يحمل العلم فيها.
درس على يد العديد من المشايخ في بلاده الجزائر وفي المدينة المنورة.
ومن مشايخه في الجزائر:
قبل مغادرة الجزائري وطنه الجزائر انخرط في المجال السياسي وشارك في حزب البيان، كما شارك في تأسيس حركة شباب الموحدين ذات التوجه الإسلامي الوحدوي، وعرف لاحقًا بمعارضته لنظام هواري بومدين. بعد استقراره في السعودية، ركز الجزائري على الجانب العلمي دون أن يغفل الحديث في جوانب فكرية وعقدية ترتبط بالسياسة، فقد أعلن معارضته لتكفير الحكام المسلمين والخروج عليهم، ورأى أن ذلك كله لا يتحقق إلا على ضوء الكتاب والسنة والرجوع إليهما، كما أيد انخراط الشباب العربي والإسلامي في الجهاد ضد الاحتلال السوفياتي لأفغانستان في ثمانينيات القرن العشرين. رغم كونه يعتبر عالما سلفيا من حيث الفكر والمعتقد فإن الجزائري أفتى بمشروعية النظام الديمقراطي، وقد حث الجزائريين على التصويت في بعض المناسبات الانتخابية.
عُرف أبو بكر الجزائري على نطاق واسع بحكم ممارسته للتدريس بالحرم النبوي الشريف لخمسين عامًا مما أكسب دروسه وكتبه زخمًا كبيرًا، ويعد كتابه منهاج المسلم من أكثر مصنفاته قبولا وانتشارا في البلدان العربية. اكتسب الجزائري مكانة مهمة في الوسط الأكاديمي الشرعي من خلال عمله أستاذا بالجامعة الإسلامية بالمدينة المنورة لأكثر من عشرين عامًا، وقد رفض الجزائري مجاملة القطاع المالي فحذر من الربا في كتابه إلى اللاعبين بالنار، كما رد على علماء الشيعة وشنّع عليهم بخصوص استئثار آل البيت بمعارف نبوية وإلهية، وألف كتابا بالخصوص عنونه نصيحتي إلى كل شيعي.
توفي أبو بكر الجزائري في فجر يوم الأربعاء 4 ذو الحجة 1439 هـ الموافق 15 أغسطس 2018 عن عمر ناهز 97 عاماً، بعد صراع مع المرض وصلي عليه صلاة الجنازة بعد ظهر يوم وفاته في المسجد النبوي الشريف، ووري جثمانه الثرى في مقبرة البقيع. وقبل عام من وفاته تعرض لالتهاب رئوي حاد، نُقل على إثره إلى مستشفى الأمير محمد بن عبد العزيز للحرس الوطني بالمدينة لتلقي العلاج.