למד באוניברסיטת חיפה בחוג לכלכלה וראיית חשבון.

יעקב, בן חנה ושמואל, נולד ביום כ"ח בסיון תש"ו (27.6.1946) בחיפה. הוא למד בבית-הספר הממלכתי-דתי "יבנה" בקרית אתא, ואחרי-כן המשיך ולמד בישיבה התיכונית "נתיב מאיר" בירושלים. יעקב, שכונה בפי חבריו ינקל'ה, היה דמות של מנהיג מילדותו. הוא חונך באווירה דתית מובהקת ובעת לימודיו בישיבה באה לידי ביטוי אהבתו הרבה לדת וכן יכולתו המצוינת בלימודים העיוניים.

כל ימי ילדותו ונעוריו היה יעקב חבר בתנועת "בני עקיבא", וברבות הימים היה למדריך ומארגן סניף בה. מלבד כושר המנהיגות שניחן בו, נתברך גם בחכמת חיים, בתבונה, בזריזות מפתיעה, ובעיקר, בדחף עצום לעשות. היה לו כישרון מיוחד לקשור קשרי ידידות עם אנשים, מכרים וזרים.

הוא היה עניו, ולא ראה במעשים יוצאי-דופן שעשה דבר מיוחד שראוי לספר עליו. כך לא הסכים לתאר את פעולותיו במלחמת ששת הימים לפני כתב "מערכות" שרצה לראיינו. כשסיים את לימודיו בישיבה התיכונית, למד תקופה קצרה בישיבה הגבוהה "כרם דיבנה". לימודי קודש אלה העמיקו את מטענו הרוחני והדתי והדבר סייע לו להתמודד בהצלחה עם בעיות שונות בתחום הדת, שנתקל בהן בעת שירותו הצבאי. בראיון לטלוויזיה שנערך עמו במלחמת יום-הכיפורים, וששודר לאחר נופלו, תיאר יעקב את הרגשתו כמפקד צעיר בשריון וכבחור דתי בים של אש.
יעקב גויס לצה"ל בראשית נובמבר 1964 והוצב לחיל השריון. לאחר הטירונות השתלם בקורס למקצועות הטנק ובקורס למפקדי טנקים.
מאחר שעשה חיל בשירותו ביחידת שריון נשלח לקורס קצינים ואחרי-כן השתלם בקורס לקציני שריון. לאחר סיום הקורסים הוצב בבית-הספר לשריון כמדריך בקורס למפקדי טנקים. בתפקידו זה העריכו מפקדו כקצין בעל נתונים טובים. הוא עמד לסיים את שירותו הסדיר לפני מלחמת ששת הימים, אך בגלל הכוננות המשיך לשרת ומונה סמ"פ בגדוד מאולתר של בית-הספר לשריון, שלחם בסיני. ביום הראשון למלחמה נפצע המ"פ ויעקב נתמנה למלא את מקומו.
הוא מילא את תפקיד המ"פ בהצלחה רבה, ומפקדו ציין שהוא הצטיין בקרבות, והעריכו כקצין אמיץ ויוזם, מנהיג הנותן דוגמה אישית, שופע החלטיות ונאמנות. על דבקותו במטרה והתעלותו בקרב הוענק לו ציון לשבח מטעם אלוף פיקוד הדרום.
לאחר שסיים את שירותו הסדיר, הוצב למילואים בגדוד שריון כמ"מ טנקים. לאחר שהשתלם בקורס מ"פים שריון, הוצב בגדוד אחר כסמ"פ טנקים. לאחר שהשתלם בקורס סיור מתקדם, מונה מ"פ טנקים והועלה לדרגת סרן. יעקב אהב את הצבא ורצה לבחור בו כדרך חיים, אך מסיבות שלא היו תלויות בו, נאלץ לוותר על כך.
לאחר שסיים את שירותו הסדיר, נשא אישה והחל ללמוד כלכלה וראיית חשבון באוניברסיטת חיפה. יחד עם הלימודים עבד כמורה בעכו, אחרי-כן עבד כמזכיר במשרד הסעד בעכו ומשנת 1969 עבד במשרד הביטחון בקרית מוצקין, כמנהל אדמיניסטרטיבי. גם בלימודים וגם בעבודתו הצליח.

כן היה פעיל בחוגי הצעירים של המפד"ל. הוא סיים את לימודיו לקראת התואר ב"א, אך התואר הוענק לו רק לאחר מותו. כשפרצה מלחמת יום-הכיפורים היה יעקב בבית-הכנסת ליד עמוד התפילה, שכן שימש כשליח ציבור. 
מיד אחרי שהתייצב ביחידתו, נשלח בראש פלוגת טנקים, שיצאה לקו הראשון ברמת-הגולן, כדי להשתתף בבלימת הכוחות הסוריים. בקרב שהתחולל ביום כ"ג בתשרי תשל"ד (19.10.1973) באזור תל-ענתר, כשפיקד על פלוגתו והוא חשוף בצריח, נפגע יעקב מפגז ונהרג.

הוא הובא למנוחת-עולמים בבית-העלמין בקרית אתא. השאיר אחריו אישה ושני בנים, הורים ואח. לאחר נופלו הועלה לדרגת רב-סרן והוענק לו "עיטור המופת" על גילוי אומץ-לב הראוי לשמש מופת. וזה תיאור המעשה:
"עם פרוץ הקרבות שימש רס"נ יעקב קליין ז"ל כמפקד פלוגת-טנקים, שנלחמה ברמת-הגולן. ב7- באוקטובר 1973 נפגע הטנק שלו והחל לבעור. רס"נ יעקב קליין ז"ל נפצע, אולם בקור-רוח הצליח גם לחלץ את התותחן, שנפגע קשה. לאחר שכיבה את הדלקה, פונה לבי"ח, וכבר למחרת "ברח" משם וחזר ליחידתו. ב-19 באוקטובר 1973, בעת ההתקפה וכיבוש "תל-ענתר", נפגע אחד הטנקים בפלוגתו של רס"נ יעקב קליין ז"ל והחל לבעור. רס"נ קליין ז"ל קפץ מהטנק שלו, כיבה את הדלקה וחילץ את הצוות. מאוחר יותר נהרג. במעשיו אלה גילה אומץ-לב, תושייה, קור-רוח ודבקות במשימה למופת".

ברשימה "בדרך אל דמשק" כתב אריה חשביה על עלילותיו ולחימתו המיוחדת.