В 1927 году Родион Яковлевич становится слушателем Военной академии им. М.В.Фрунзе, которую через три года заканчивает по первому разряду.

После окончания академии Малиновский некоторое время проходит службу в должности начальника штаба 67-го кавалерийского полка 10-й кавалерийской дивизии. Затем в течение нескольких лет служит в штабах Северо-Кавказского и Белорусского военных округов. Став начальником штаба 3-го кавалерийского корпуса, Малиновский работал вместе с С.К.Тимошенко, который был командиром корпуса. Эта совместная работа оказала большое влияние на дальнейшую военную карьеру Родиона Яковлевича.

С января 1937 до мая 1938 года Малиновский находился в Испании, где его называли полковником Малино. Он помогает республиканцам в разработке планов военных операций, передает свой военный опыт, участвует в боях. С его именем связаны многие места в Испании – Махадаонда, Гвадалахара, Сеговия, Барселона и другие. Деятельность Малиновского в Испании была отмечена орденами Ленина и Красного Знамени.

После возвращения на родину Родион Яковлевич стал старшим преподавателем кафедры службы штабов Военной академии им. М.В.Фрунзе.

Весной 1941 года он получает назначение в Одесский военный округ на должность командира 48-го стрелкового корпуса. За неделю до начала Великой Отечественной войны корпус был выдвинут к реке Прут на границу СССР.

Для Родиона Яковлевича Малиновского первые сражения с противником начались 22 июня 1941 года. Остановить врага на границе корпусу было не по силам – численное превосходство его было очевидным. С тяжелыми непрерывными боями части корпуса вынуждены были отходить на Котовск, Николаев, Херсон. Немцы постоянно пытались окружить корпус и только в районе Николаева смогли взять его в кольцо. Но отчаянное сопротивление солдат и умелое управление войсками со стороны командования корпуса смогли прорвать кольцо окружения, и вскоре части корпуса соединились с основными силами Южного фронта.

В августе Малиновский был назначен начальником штаба 6-й армии, а затем стал ее командующим. Почти месяц войска 6-й армии вели оборонительные бои в районе Днепропетровска, успешно отражая все атаки превосходящих сил противника. Немцы так и не смогли прорваться на этом участке и перенесли свои усилия на другие позиции. За успехи в боях Малиновскому присваивается воинское звание генерал-лейтенанта и он награждается орденом Ленина. Затем, осенью 1941 года, под его командованием армия с неменьшей стойкостью защищала Донбасс.

В декабре 1941 года Малиновский был назначен командующим войсками Южного фронта. В начале января 1942 года войска Южного фронта при взаимодействии с войсками Юго-Западного фронта провели наступательную операцию в районе Барвенково и Лозовая. В ходе наступления был захвачен плацдарм на правом берегу Северского Донца. Ведя ожесточенные бои, войска Южного фронта причинили противнику большие потери и сковали в этом районе его крупные силы. Немецкое командование не смогло перебросить отсюда части на другие направления, в том числе и к Москве, где началось контрнаступление советских войск на втором этапе битвы за столицу.

Малиновский не исключал возможности наступления немцев на юге и предпринял ряд мер по укреплению обороны. По его приказу были созданы до четырех оборонительных рубежей, а 24-я армия, входившая во второй эшелон, получила задачу быть готовой к совместным военным действиям на стыке с войсками Юго-Западного фронта.

Летом 1942 года немецкие части упорно рвались к Кавказу. Войскам Южного фронта пришлось отходить. Правда, отход за реку Дон был осуществлен сравнительно организованно и последовательно от одного рубежа к другому, а на южном берегу Дона Малиновскому и штабу фронта удалось организовать оборону. Затем Южный фронт сливается с вновь созданным Северо-Кавказским фронтом. Малиновский назначается заместителем командующего новым фронтом.