Через два года после смерти своей первой супруги великий князь решил жениться вновь. После совещания со своей матерью, а также с боярами и митрополитом он решил дать согласие на недавно полученное от папы римского предложение вступить в брак с византийской царевной Софьей (Зоей) , племянницей последнего императора Византии, Константина XI, погибшего в 1453 году при взятии Константинополя турками. Отец Софьи, Фома Палеолог, последний правитель Морейского деспотата, бежал от наступающих турок в Италию вместе со своей семьёй; его дети пользовались папским покровительством. Переговоры, продолжавшиеся в течение трёх лет, закончились, в конечном итоге, приездом Софьи. 12 (21) ноября 1472 года великий князь обвенчался с ней в кремлёвском Успенском соборе. Стоит отметить, что попытки папского двора воздействовать через Софью на Ивана, и убедить его в необходимости признать унию, полностью провалились