Герцогиня була змушена її чоловіком відмовитися від Елізи незабаром після її народження, яку виховували батьки Чарльза Грея, Чарльз Грей, 1-й граф Грей, і Елізабет Грей.
Бесс і її діти все ще в Девонширі. Джорджіана повідомляє Бесс і Герцогу, що вона вагітна дитиною Грея. За наказом герцога вона переїжджає в сільську місцевість чекати народження. Вона народжує іншу дівчинку, Елізу, і негайно змушена віддати дитину родині Грея.
Герцог вигнав Джорджіану, заборонивши їй повертатися до запрошення і лише за умови, що дитину помістять в інше місце. Джорджіана могла бачити Елізу, коли вона росла, виступаючи в якості неофіційного хрещеного батька, але Елізі сказали про її походження лише після смерті Джорджіани.
Вона навернулася до римсько-католицької церкви, і було сказано, що вона стала дуже релігійною в останні роки, приділяючи багато часу та енергії благодійній діяльності. У 1894 році Грей повернувся до Англії і став Таємним радником королеви.
Її чоловік погрожував утримати від неї трьох їхніх дітей, якщо вона житиме з Греєм, тож вона поїхала до Франції, щоб народити дитину, і віддала маленьку дівчинку на ім’я Еліза Кортні родині Грея. Еліза була вихована як набагато молодша сестра Грея (а Джорджіана була дуже уважною хрещеною матір'ю).
Герцогиня була змушена своїм чоловіком відмовитися від Елізи незабаром після її народження, щоб її виховували батьки Чарльза Грея, Чарльз Грей, 1-й граф Грей, і Елізабет Грей..