גנדולפיני נישא לראשונה ב-1999 למארסי וודארסקי, לפני שהשניים נפרדו ב-2002. ב-2008 הוא נישא בשנית לדוגמנית לשעבר, דבורה לין. בנו הבכור, מייקל, נולד בנישואיו הראשונים ובתו הקטנה, ליליאנה רות בנישואיו השניים. כעת מסתערות שתי הנשים על הירושה הגדולה, כאשר כל אחת מייצגת את הילד שלה בניסיון לזכות בנתחים גדולים יותר מהשארים.
בצוואה שהותיר אחריו גנדולפיני ניתנה זכות הראשונים על הונו למייקל (כיום בן 14), שהזכויות על הבתים של אביו המנוח ימתינו בקרן נאמנות עד שימלאו לו 21. בהמשך הצוואה נכתב כי הוא יתחלק בפנטהאוז עם אחותו במלאות לה 25, כמו גם באחוזה הענקית שהחזיק השחקן באיטליה. אלא שכעת מסתבר כי עד שיגיעו הילדים ליום בו יוכלו לממש את זכותם הם עשויים להישאר עם ירושה פחותה משמעותית. זאת מכיוון ש-80 אחוז מהונו של השחקן נתונים למיסים שונים.
