این مرد کبیر تحصیلات دینی را از اوان کودکی آموخت و در شهرهای قم، کاشان و اصفهان با حضور در محضر اساتید برجسته به فراگیری فقه و اصول نزد بزرگان فن پرداخت.
بعد از بیست و پنج سال، تلاش علمی در این آوردگاه میهنی، ایشان عازم نجف اشرف شد و بسان بسیاری دیگر از طلاب آن زمان، علم و اجتهاد را در آن موقف روحانی و حوزه علمی برجسته و جهانی پی گرفت.
در آنجا به محضر بزرگانی نظیر ميرزا خليل تهراني نجفي، آخوند ملامحمد كاظم خراساني و سيدمحمد كاظم يزدي رسید و پس از سالها ممارست و جد و جهد در راه تحصیل مکتب معارف اسلامی و شیعی عازم قم شد و به یکی از استوانه های علمی این شهر بدل گشت.
در این سالها که از 1324 هجری قمری بدین سو آغاز شد، هم کرسی درس و بحث و هم مراجعات مردمی و هم نماز جماعت ایشان در مسجد امام حسن عسکری در قم با حضور ایشان از رونق و فروغ قابل توجهی برخوردار بود.
و ایشان به عنوان مرجعیت تقلید بسیاری از مردم شناخته می شد.
از جمله اساتید ایشان می توان به حاج شیخ محمد حسن نادی، حاج شیخ محمد جواد قمی، حاج ملا محمد نراقی، میرزا فخرالدین نراقی، حاج آقا رضا همدانی صاحب مصباح الفقیه، حاج میرزا حسین خلیلی تهرانی، آخوند ملا محمد کاظم خراسانی، سید محمد کاظم طباطبایی یزدی اشاره کرد.
و نیز بزرگانی که به ایشان اجازه اجتهاد داده اند عبارتند از میرزا ابوالمعالی کلباسی، میرزا محمد هاشم چهار سوقی اصفهانی، حاج آقا منیرالدین بروجردی اصفهانی، سید محمد علوی بروجردی کاشانی، آخوند ملا محمد کاظم خراسانی و سید محمد کاظم طباطبایی یزدی.
از جمله تألیفات ایشان می توان به حاشیه بر کفایة الاصول، حاشیه بر تفسیر صافی ملا محسن فیض کاشانی، رساله علمیه و تصحیح و مقدمه بر جمال الاسبوع سید بن طاوس اشاره نمود.
از جمله شاگردان برجسته ایشان هم باید از امام خمینی، موسوی گلپایگانی، حاج میرزا محمد فیض قمی، حاج سید احمد شبیری زنجانی، ملا علی همدانی، میرزا عبداللّه چهلستونی تهرانی، میرزا محمود روحانی قمی، میرزا ابوالفضل زاهدی قمی، حاج سید مصطفی صفایی خوانساری، شیخ مهدی حرم پناهی قمی، میرزا محمد تقی اشراقی قمی، شیخ عبدالهادی حاج آخوند قمی، حاج سید محمد علوی قزوینی، حاج آقا ضیاء استر آبادی تهرانی، شیخ محمد حسین ناصر الشریعه قمی، شیخ محمد حسن آقا نجفی قمی و بسیاری از فحول و برجستگان حوزه دین و اندیشه یاد کرد.
آنچه از زندگی و خاطرات و منش این عالم ربانی برجای مانده این است که بسیار بی آلایش بود و از سهم امام سود نمی جست و اخلاق حسنه ای با همگان چه در خانه و چه در جامعه داشت و در همین باره از مرحوم آیتاللّه العظمی گلپایگانی نقل میکنند که «ما عمدتاً برای استفاده از اخلاق و انفاس قدسی آیت الله کبیر به درسش میرفتیم و علاوه بر آن از علمش هم بهره میبردیم.»
و نیز در بیان منش رفتاری ایشان ذکر کرده اند که: «ایشان معمولاً کنار سفره خود، فقرا و سادات مستمند را مینشاند و از آن غذایی که خود میخورد به آنها هم میخورانید.»
و نیز گفته اند که «مرحوم کبیر تنها با سادات و اهل علم خوب بود، با متنفذین هیچ خوب نبود به گونهای که هیچیک از آنان جرأت نداشتند برای او هدیهای بفرستند.»
یکی از شاگردان ایشان میگوید: «در روزهاي اول كه از يزد به قم براي ادامه تحصيل آمده بودم، خيلي كوچك بودم و هنوز معمّم نشده بودم، روزي در مسجد امام حسن عسكري(ع) پولي از دستم افتاد، دنبال آن ميگشتم ناگاه پيرمرد اهل علمي كه در نزديك آنجا بود جلو آمد و از من پرسيد: چه گم كردهاي؟ عرض كردم: پولم گم شده است، ايشان هم به جستجو پرداخت تا پول را پيدا كند، من در آن وقت او را نشناختم بعد شناختم كه همان عالم بزرگ شيخ ابوالقاسم كبير قمي بود.»
حاج شیخ ابوالقاسم قمی، در جماديالثاني سال 1353 هجری قمري در قم از دنیا رفت. پس از بدرقه ای باشکوه از سوی مردم قم و نمازگذاردن مرحوم حاج شیخ محمد کبیر بر ایشان، پیکر مطهرش در قسمت بالاسر حضرت معصومه(س) مدفون گشت.