ایشان پس از آشنایی با جامع‌المقدمات و صرف و نحو در دبیرستان وارد حوزه علمیه شدند و نزد پدر و دیگر اساتید وقت ادبیات و مقدمات را خواندند.
درباره انگیزه ورود به حوزه علمیه و انتخاب راه روحانیت مى گویند:
«عامل و موجب اصلى در انتخاب این راه نورانى روحانیت پدرم بودند و مادرم نیز علاقه مند و مشوّق بودند».
ایشان کتب ادبى ار قبیل «جامع المقدمات»، «سیوطى»، «مغنى» را نزد مدرّسان مدرسه «سلیمان خان» و «نوّاب» خواندند و پدرش نیز بر درس فرزندانش نظارت مى کردند. کتاب «معالم» را نیز در همان دوره خواندند. سپس «شرایع الاسلام» و «شرح لمعه» را در محضر پدرش و مقدارى را نزد مرحوم «آقا میرزا مدرس یزدى» و رسائل و مکاسب را در حضور مرحوم حاج شیخ هاشم قزوینى و بقیه دروس سطح فقه و اصول را نزد پدرش خواندند و دوره مقدمات و سطح را به طور کم سابقه و شگفت انگیزى در پنچ سال و نیم به اتمام رساندند. پدرشان مرحوم سید جواد در تمام این مراحل نقش مهّمى در پیشرفت این فرزند برومند داشتند. رهبر بزرگوار انقلاب، در زمینه منطق و فلسفه، کتاب منظومه سبزوار را ابتدا از «مرحوم آیت الله میرزا جواد آقا تهرانى» و بعدها نزد مرحوم «شیخ رضا ایسى» خواندند.

آیت الله خامنه‌ای که از هیجده سالگى در مشهد درس خارج فقه و اصول را نزد مرجع بزرگ مرحوم آیت الله العظمى میلانى شروع کرده بودند. در سال 1336 به قصد زیارت عتبات عالیات، عازم نجف اشرف شدند و با مشاهده و شرکت در درسهاى خارج مجتهدان بزرگ حوزه نجف از جمله مرحوم سید محسن حکیم، سید محمود شاهرودى، میرزا باقر زنجانى، سید یحیى یزدى، و میرزا حسن بجنوردى، اوضاع درس و تدریس و تحقیق آن حوزه علمیه را پسندیدند و ایشان را از قصد خود آگاه ساختند. ولى پدر موافقت نکرد. پس از مدّتى ایشان به مشهد باز گشتند.