Хотя Константинопольская империя, сжатая на Востоке персами и угрожаемая на севере сарматами и татарами, казалось, не имела других забот, кроме как держаться в обороне, Юстиниан задумал проект восстановления под своим единоличным правлением обеих частей Римской империи. Он разглядел за видимостью силы и устойчивости быстрое угасание варварских королевств, основанных в Испании, Африке и Италии; климатические влияния, привычки к невоздержанности, внутренние раздоры ослабили этих завоевателей, пришедших с Севера. Чтобы навсегда уничтожить их власть, подтачиваемую изнутри, возможно, требовалась лишь смелость. События, произошедшие в Африке, предоставили желаемый случай.

Преемник Гензериха, Хильдерик, потомок Феодосия по материнской линии, был свергнут и убит Гелимером, который занял его место на троне. Под предлогом наказания узурпатора Юстиниан решил предпринять экспедицию против вандалов. Велизарий отправился с армией, разгромил Гелимера в битве при Трикамаро и взял его в плен (534); затем он вошел в Карфаген и завладел Африкой, Сардинией и Балеарскими островами. Королевство вандалов стало провинцией Империи, просуществовав сто четыре года со времени его основания Гензерихом. Обвиненный придворными в желании оставить это завоевание за собой, Велизарий не замедлил вернуться на Восток, чтобы своим присутствием рассеять подозрения. По возвращении в Константинополь он удостоился триумфальных почестей, которые со времен Тиберия предназначались только победоносным Цезарям. Последний король вандалов следовал за колесницей триумфатора. Однако мужество, проявленное им в борьбе, и его смирение в поражении заслужили уважение победителей. Император пожаловал ему обширные владения в Галатии, где Гелимер мирно закончил свои дни.

Пока имперская власть восстанавливалась в Африке, события, имевшие определенную важность, привлекали внимание к Италии. После смерти Теодориха I в 526 году его внук Аталарик унаследовал трон под опекой своей матери Амаласунты. Истощенный ранними излишествами, Аталарик скончался в возрасте семнадцати лет. Амаласунта была вынуждена выйти замуж за своего кузена Теодата, который приказал ее задушить сразу после их брака (534). Это убийство послужило предлогом для Юстиниана осуществить свои планы в отношении Италии. Велизарий проник в Сицилию, взял Неаполь в 535 году и вошел в Рим в ноябре 536 года. Теодат, убитый своими солдатами, был заменен Витигисом. В марте 537 года этот новый король, сопровождаемый ста пятьюдесятью тысячами готов, пришел лагерем к древней столице мира. После нескольких атак, которые Велизарий лично отбивал с героическим мужеством, Витигис был вынужден отступить и укрыться в Равенне. Тем временем, Персия, подстрекаемая к отвлечению внимания от Византийской империи, напугала Юстиниана, и он приказал своему генералу немедленно заключить мир (540). Велизарий, только что отказавшийся от короны, предложенной ему готами, осмелился ослушаться и заявил, что сложит оружие только после взятия Равенны. Он сдержал слово, захватил осажденный город, а также Витигиса, которого привел пленником. Он был отстранен от должности, и, несмотря на восторженное восхищение, которым он был окружен, горько оплакивал утраченную милость. Она была возвращена ему во время нового вторжения персов в Сирию. Велизарий попытался отбить короля Хосрова, и, хотя не смог вернуть Армению, по крайней мере предотвратил новые завоевания (542). Перемирие было подписано в 544 году.

Отсутствие великого полководца привело к потере всех плодов его побед в Италии. Готы, изгнанные за По, избрали своим королем Ильдебада, который за несколько месяцев отвоевал Транспаданские провинции и Лигурию. Его преемник Тотила, воспользовавшись неспособностью генералов Юстиниана, смело взялся за восстановление Остготской монархии. Он собрал все, что осталось от его народа, и одержал крупную победу под Фаэнцей, которая дала ему Неаполь, Рим и южные области полуострова (546). Пришлось снова обратиться к Велизарию. Старый воин вернулся, но с недостаточными силами. Он воспользовался уходом готов, чтобы вернуться в Рим, чьи укрепления были разрушены, а жители рассеяны. Он поспешил восстановить часть стен и сумел трижды отбить Тотилу, вернувшегося из Апулии, чтобы вернуть эту ключевую позицию. Это был его последний успех. Без оружия, без войск, без поддержки из Византии, он запросил отзыва, устав быть пассивным свидетелем успехов Тотилы, который, вернув Рим, только что подчинил Сардинию и Корсику (548).