Вскоре после смерти Василия Тёмного его сыновья, Иван Васильевич с братьями, заключили в подтверждение прежнего договор с тверским великим князем Михаилом Борисовичем и тверскими князьями. Иван Васильевич и Михаил Борисович, как равные, обязались взаимно везде друг другу добра хотеть и под владения не подыскиваться, а быть везде за один, на татар, на ляхов, на Литву и на немцев; князей врагов одного великого князя другому не принимать, а при отъезде служебных князей в их отчины не вступаться; боярам и слугам вольным воля; с Новгородом Великим жить по старине2. В то же время Иван Васильевич вместе с братьями заключили договор с верейским князем Михаилом Андреевичем, который по родовой лестнице приравнивался к третьему брату московского великого князя и обязывался держать Великое княжение честно и грозно, без обиды, а его московские князья обязывались держать в братстве, любви и чести, без обиды же; все внешние отношения, к Орде, к великим князьям и так далее, лежат на московском великом князе, который с этой стороны должен заботиться об интересах верейского князя, а этот обязывался, если с кем находится в крестном целовании, то его сложить; боярам и слугам вольным воля, но князей служебных друг от друга договаривающиеся не должны принимать3. Только с Рязанью у московских князей не было заключено договора, потому что Иван Васильевич, как было при его отце, оставался опекуном рязанского великого князя, который в 1464 году поехал в свои владения и в том же году женился на сестре Ивана Васильевича. Спустя около трех лет после договора московских князей с верейским, с последним Иван Васильевич заключил еще два новых договора. По одному из них Михаил Андреевич поступался сам Ивану Васильевичу Вышгорода с волостями, путями и селами и обещался в него не вступаться. Этот Вышгород был пожалован верейскому князю Василием Тёмным и потом самим Иваном Васильевичем. По другому договору верейский князь должен был по старшинству считать себе старшими не только двоих сыновей Василия Васильевича, но всех пятерых4. Относясь к каждому самостоятельному князю отдельно, Иван Васильевич стал относиться точно так же и к своим братьям. Второй из них, Андрей Васильевич Большой, князь Углицкий, был в постоянном соперничестве с великим князем, начиная особенно со времени походов на Новгород. Летописец в числе неправд Андрея Углицкого против старейшего своего брата упоминает, что он думал налихо великого князя со своими братьями, Юрием, Борисом и Андреем, и для этого приводил их к крестному целованию. Очень может быть, он что-нибудь задумывал после первого похода Ивана Васильевича на Новгород, и вот до нас от этого времени дошел договор (в копии) с ним. В этом договоре мы не видим никаких особенностей относительно владения договаривающихся, и он как бы составляет середину между договором с тверским великим князем и князем верейским5. Но вскоре после этого явился случай, еще более расстроивший мир между братьями. В 1472 году в сентябре месяце скончался второй сын Василия Васильевича Юрий. Под влиянием, должно быть, обстоятельств он в своей духовной грамоте точно распорядился о своей движимости, о поминовении своей души, но ничего не сказал определенного о своем уделе. Братья рассорились за удел Юрия Васильевича, потому что старший все взял себе. Иван Васильевич пошел на сделки: самому младшему своему брату дал Тарусу; с Борисом заключил договор в феврале следующего 1473 года, по которому удел Юрия Васильевича остался за Иваном Васильевичем, а он пожаловал брату Вышгород. Но с Андреем такой же договор был заключен только в сентябре этого же 1473 года: его за удел Юрия Васильевича вознаградила мать, великая княгиня Марья, давши Романов на Волге. В предшествующем договоре Андрея Васильевича со старшим братом сын последнего, Иван, назывался просто князем, а теперь братья великого князя называют Ивана Ивановича великим князем и обязуются его иметь себе старшим братом6.
Окончательное подчинение Новгорода снова рассорило братьев. Недовольными оказались Андрей Большой и Борис Васильевичи, Андрей же Меньшой не принимал участия в их деле. Повод к ссоре подал отъезд от великого князя Оболенского-Лыко. Оболенский, не стерпевши излишне строгого суда за взятки, отъехал к Борису Васильевичу. Иван Васильевич приказал силой схватить Оболенского среди княжеского двора, но когда его отняли из рук великокняжеского чиновника, то великий князь приказал сказать брату, чтобы тот выдал Оболенского головой, тот же отвечал предложением суда о делах отъезчика. Вместо этого Иван Васильевич приказал боровскому наместнику схватить Оболенского тайно; приказание было исполнено, и Оболенского, закованного, привезли в Москву. Услышав это, Борис Васильевич послал к Андрею Углицкому, жалуясь на великого князя, что он вот какую силу над ними чинит, что не вольно никому отъехать к ним; что они молчали, когда князь Юрий умер, великому князю вся его отчина досталась, а он им из той отчины не дал никакого надела; Новгород Великий вместе с ними взял, и ему все досталось, а им жеребья из него не дал; а нынче и здесь силу чинит: кто отъедет от него к ним, и тех бессудно хватает; уж ни за бояр начал считать свою братию; а духовного отца своего забыл, как тот написал, почему им жить, да также забыл и докончанья, что на чем кончали после отца своего.