יעקב נולד בה' כסלו ה'תרפ"ו (1925) בגרמניה כבן יחיד להורים שומרי דת ואוהבי ארץ ישראל, אשר כספו לעלות אליה בכל מאודם. ברבות השנים, בשנת תרצ"ו (1936) רצון זה התגשם והם עלו לארץ והשתקעו בתל אביב. יעקב החל ללמוד בבית-הספר 'תחכמוני', משם עבר לבית-ספר שהקימה 'ההסתדרות החרדית', ובכל מקום נתגלה בהתמדתו שהייתה למופת, בבקיאותו ובתפיסתו המהירה. יעקב התמסר לפעילות בתנועת-הנוער הדתית-לאומית 'ברית-החשמונאים' (ארגון דתי רויזיניסטי) וגילה כושר ארגוני רב לצד המימד התורני שהיה משרה בקרב חבריו. בהגיעו לבגרות עלה לירושלים ללמוד בישיבת 'חברון', בניגוד לרצון הוריו אשר רצו שימשיך את לימודיו בגימנסיה. יעקב עלה והתעלה בלימודיו ועם השנים הכל הכירוהו כתלמיד-חכם, עילוי ואיש-אמת. באותה תקופה התכונן לבחינות-כניסה לאוניברסיטה העברית ללימודים כלליים[1]. לימודים אלו מנעו ממנו את המשך לימודיו בישיבת חברון, ועל כן עבר לישיבת 'מרכז הרב' (לקמן 'הישיבה') שם למד רוב שעות היום. יעקב היה מסיים את סדר יומו בשעות מוקדמות, ומשכים קום לפנות בוקר ללימודיו האקדמאים[2]. במהלך שנות לימודיו בישיבת 'מרכז הרב', עוד בהיותו בן 19 שנים בלבד, הוסמך להוראה ולרבנות על ידי מו"ר הרב שלום נתן רענן זצ"ל[3].
במהלך שיחה עם הרב שאר ישוב כהן ז"ל רבה הראשי של חיפה, הוא סיפר במפתיע שאינו מכיר את "יעקב רוזנברג" אלא את "הרב יעקב רוזנברג" שהיה ידיד נפשו באמת, הם למדו בחברותא במשך שנים, ויחדיו התכוננו לסמיכה. "ת"ח יותר ממני", כך העיד, "יחדיו התכוננו לסמיכה, למדנו יחד לסמיכה יו"ד, עסקנו בסוגיות חולין וכו' כל זה מעבר ללימודים הסדירים בישיבה שם למדנו נדרים נזיר וכו' כסדר הרגיל. היה שיעור מיוחד בישיבה באישורו של הרצי"ה כהכנה לסמיכה. היה מתוכנן שנקבל את הסמיכה מהרב הראשי, הרב הרצוג זצ"ל, אני קיבלתי אחרי שחזרתי מהשבי אך הרב יעקב לא קיבל".
בתקופה טרום קום המדינה, הצטרף ר' יעקב כרבים מתלמידי הישיבה אל לוחמי המחתרות ואל הלח"י בפרט, והיה פעיל בשורותיה. בליל ה 17.9.1947- תוך כדי לימודיו בחדרו בישיבה בסוגיות "איסור והיתר" בשו"ע חלק 'יורה דעה' בנגינה נעימה ומופלאה כדרכו, הוא נתפס על ידי הבריטים[4]. בשעת החיפוש נמצאו בכליו כרוזים של המחתרת והוא נדון לשנתיים מאסר. תחילה ריצה את עונשו בלטרון, לאחר-מכן בבית-הסוהר בירושלים, ולבסוף הועבר לעתלית. בתקופת מאסרו היה אחראי לענייני הדת והתפילה, לצד שיעורי העשרה ליתר האסירים במקצועות השונים שידע. על אף מעצרו ושהותו בתנאים קשים המשיך את עבודתו המחתרתית, בחופרו מנהרות לבריחה בעתלית.
בתקופה שבין החלטת חבר האומות המאוחדות, הידועה בשם "כ"ט בנובמבר", לבין יום הכרזת המדינה, ה' באייר תש"ח, הרוחות סערו בישיבה סביב שאלת הגיוס לצבא או המשך הלימודים בישיבה. רבינו הרצי"ה נקט עמדה ברורה של חובת הגיוס למלחמת מצווה, בטענו כי חיוב ההתגייסות להגנה על עם ישראל מבוסס על חיוב הצלת נפשות ומצוות כיבוש ארץ ישראל המהווה מצווה לדורות, ואף פירסם כרזות בנושא[5]. ומאידך מו"ר הרב יעקב משה חרל"פ זצ"ל נקט שעל בחורי הישיבה להישאר ולעסוק בתורתם. רבים מתלמידי הישיבה התגייסו כמצוות רבם, הרב צבי יהודה, למלחמות התקומה של מדינתנו מדינת ישראל.
גם יעקב רוזנברג התגייס למאמץ המלחמתי. על אף שעברו רק יומיים מעת שחרורו מהכלא הבריטי בעתלית בניסן תש"ח, ולמרות שהיה בן יחיד שלא חייב להילחם[6], נקרא לפקד על קבוצת לוחמים לקראת מלחמת השחרור. יעקב יצא לקרב ושירת בחטיבה 8. מהקרב הזה לא שב. הוא נפל בד' סיוון תש"ח מכדור שפגע ברקתו, בעת לחימתו בכפר ענאה, ונקבר בבית הקברות בנחלת יצחק. משפחתו סיפרה שבימים בהם היה נתון במעצר, ואף בימים טרום המלחמה בעת שהותו בצה"ל, היו מעבירים אליו משלוחי מזון ומכתבים ואף הוא היה כותב אליהם חזרה מכתבים שחלקם אף נשמר כפי שנראה לקמן.
"בעת המלחמה יצאתי לשבי הירדני מהרובע היהודי", ממשיך הרב שאר ישוב בסיפורו, "מאז לא שמעתי ממנו ולא פגשתיו, הרב יעקב היה בתחילה בברית החשמונאים והיה צריך להיות עימי בישיבה הלוחמת הראשונה שהקמנו ברובע. יעקב היה אמור להקימה עימי (עוד לפני ישיבות ההסדר), אך מכיוון שלא הצליח להיכנס לרובע היהודי הלך ונלחם בפ"ת ויהוד, ושם נהרג. בתחילה היה בלח"י, אח"כ בהגנה בגדוד מוריה, ובהמשך נהרג ביהוד. כשחזרתי מהשבי שמעתי שנהרג, בכיתי והצטערתי רבות".
"הרב יעקב היה תלמיד חכם אמיתי, הרבה יותר ממני, מלא ביראת שמים, עדין וצנוע אך מלא עוז דקדושה. הוא היה איש לאומי, כל ישותו הייתה לאומיות, לוחם בעל עוז ואמיץ כוח, לא ירא, אשר הלך בראש כל משימה. יהי זכרו ברוך".