Той е велик княз на Московското княжество от 1462 г. до 1505 г. Той успява да присъедини към Московското княжество почти всички великоруски области, поставяйки основите на днешна Русия. Възползвайки се от разпадането на Златната орда, Иван III слага край на продължилата два и половина века зависимост на руските земи от монголите.
Женен за София Палеологина – племенница на последния византийски император, Иван III поставя и началото на имперските претенции на Русия. Той включва в герба си двуглавия орел на Източната империя, а на запазен негов печат от края на управлението му използва титлата „Иван, по божия милост господар на цяла Русия и велик княз владимирски и московски, и новгородски, и псковски, и тверски, и угорски, и вятски, и пермски, и български“. В отделни документи той се нарича дори цар.
През 1467 г. съпругата му Мария Борисовна умира, оставяйки го с един син Иван Млади. През 1469 г. той получава предложение от римския папа да се ожени за Зоя Палеолог. Тя е дъщеря на Тома, деспот на Морея и брат на последния византийски император Константин XI Драгаш, която след падането на Константинопол през 1453 г. живее в Рим, заедно със семейството си. През 1472 г. двамата се женят в Москва, като тя приема името София.
При управлението на Иван III Московското княжество успява да отхвърли продължилата два и половина века зависимост от Монголската империя и нейните наследници.
Със засилването на Московското княжество то постепенно придобива известност в Европа. Освен с Папската курия, то установява дипломатически връзки със Свещената Римска империя, Унгария, Молдова, като император Максимилиан I дори нарича Иван III в кореспонденцията им свой „брат“.