בערב חנוכה תרמ"ה הגיע לישיבת וולוז'ין כשהנצי"ב היה רבו המובהק אך קיבל תורה גם מהגר"ח מבריסק אף שלא נכנס לשיעוריו. שם כונה (במקור ביידיש) "העילוי מגריבה"/"הגריבאי" או "העילוי מדווינסק"/"הדווינסקאי" או "העילוי מפוניבז'"/"הפוניבז'אי" כי חותנו לעתיד היה אז ראב"ד פוניבז'. בוולוז'ין למד כמתוכנן עד סוף זמן חורף תרמ"ו ובניסן נשא לאישה את בת האדר"ת ולמד על שולחן חותנו.
בי"ז בטבת תרמ"ח נולדה ביתו הבכורה מרת פרידה-חנה ע"ה (נישאה לדודה, הרב ישראל שמעון רבינוביץ-תאומים זצ"ל) ובהמשך אותה שנה נבחר לרבנות העיירה זיימל בליטא. שם היה תלמיד-חבר בקבלה למרן הגר"ש לרב שלמה אלישוב זצוק"ל (בעל ה"לשם"). לאחר כשנה נפטרה רעייתו כשבתו הייתה כבת שנה וחצי. בזיווג שני נשא בתר"ן לאישה את מרת רייזה רבקה בת אחיו התאום של האדר"ת, הרב צבי יהודה זצ"ל. ממנה נולד לו בי"ד בניסן תרנ"א מרן הגאון הרב צבי יהודה (הרצי"ה) זצ"ל. באותה שנה הוציא לאור גם את חיבורו הראשון "חבש פאר" שבו דברי הלכה ואגדה על מקום ההנחה הנכון של תפילין של ראש.
בתרנ"ה נבחר לכהן כראב"ד העיירה בויסק בלטביה. מתרס"א החל לפרסם מאמרי הגות בביטאון הרבני "הפלס". בתרנ"ט נולדה בתו השנייה בתיה-מרים שנישאה לגאון הרב להרב שלום נתן רענן (הירשוביץ) זצ"ל שהיה מגדולי תלמידי הרב ב"מרכז הרב" ובהמשך ר"מ ומנהל הישיבה. בשנים אלו עסק בכתיבת חיבוריו 'עין אי"ה' (חלקו הגדול כשמדובר בגרסה ראשונה כשכתב בהמשך גרסה שנייה), "מדבר שור" (דרשות שנשא בתקופה זו), ולנבוכי הדור, חיבור הגותי על התמודדות היהדות עם זרמי מחשבה מודרניים. הוא קיבל הצעות לכהן פאר ברבנות קובנה וסלונים, כמגיד מישרים בווילנה וכמנהל רוחני בישיבת טלז, אך העדיף את עצת קהילת הפרושים ביפו בגלל שאיפתו העזה לעלות לארץ ובכ"ח באייר תרס"ד עלה לארץ ישראל לכהן כראב"ד יפו והמושבות על כסאו של מרן הגאון נפתלי הירץ הלוי וידנבוים זצוק"ל.
שם חיבר חלק נכבד מכתביו המחשבתיים ובהם "שמונה קבצים" ששמשו לחיבור כמה וכמה ספרים מתורתו: "אורות", "אורות הקודש", 'עולת ראי"ה', ערפילי טוהר שהוא הוצאה לאור ביוזמת הרב קוק של הקובץ השני משמונה קבצים כפי שהוא, ועוד. כמו כן, כתב בעיפו את הגרסה השנייה של 'עין אי"ה'. בתענית אסתר תרס"ז נולדה בתו הצעירה אסתר יעל, ובאותו זמן התארסה בתו הגדולה פרידה חנה עם הרב ישראל שמעון רבינוביץ'-תאומים, בנו של האדר"ת וממייסדי העיר בת ים. באותה תקופה תמך באופן מסויג בבית ספר "תחכמוני" ששילב בין לימודי קודש ("לחינוך האדם להיות ישר וטוב") ולימודי חול ("למלחמת החיים"), בשל התפיסה שיש לקדש את החומר במיוחד בארץ ישראל, דבר שעורר התנגדות מצד חלקם של רבני ירושלים. במקביל תמך גם ב"תלמוד תורה שערי תורה". הוא יצר קשרים עם מנהיגי הפועלים ותמך בהתיישבות החקלאית. במסגרת זאת תמך בהיתרים על פי ההלכה לצורך קיום ההתיישבות, כגון בפולמוס השמיטה ובהיתר המכירה, שרבנים בולטים תמכו בו גם לפניו. הוא ביסס היתר זה מבחינה הלכתית בספר שבת הארץ. כמו כן התיר את השימוש בפסח בשמן שומשומין שנכבש בכבישה קרה ללא מגע מים, אף שהשומשומין הם ממשפחת הקטניות שאסורה בפסח באכילה לאשכנזים. ביפו הקים ישיבה גבוהה שהייתה קטנה ומנתה פחות משני מניינים, ביניהם היה הרב יהושע קניאל, רבה של חיפה. הישיבה שכנה בקומה העליונה של תלמוד תורה "שערי תורה" בבית הכנסת, כאשר בחציו השני של היום עבדו והשתכרו התלמידים בבית המלאכה "שערי תורה" שנוסד בצמוד לישיבה. למעשה היה זה מבנה של שני אגפים שבאגף שבקומה השנייה שכנה דירתו, ובאגף השני היה מקום לימודו וישיבת בית דינו. שם הייתה הישיבה. הבית שבו התגורר הרב, שוכן ברחוב אחווה 21 בשכונת נווה צדק הכלולה בתל אביב-יפו דהיום.