Возможно, свою роль в экономической несостоятельности Союза военных играло и то, что руководство организации не признавало вероятности долговременного установления большевистского режима в России, выступало за продолжение борьбы против советской власти, в которой военные беженцы еще найдут свое место. Союз был одним из главных антисоветских центров в Шанхае, возбуждая опасения и недовольство со стороны экономических кругов российской (преимущественно, еврейской) колонии и части представителей бывшего дипломатического корпуса. К концу 1921 г. Союз военнослужащих оказался в состоянии глубокого кризиса. Новая инициативная группа, состоявшая в основном из старших офицеров и назвавшая себя Комитетом союза, предложила реорганизовать объединение на основе новых принципов. В январе 1922 г. разработанный Комитетом союза новый устав организации был принят общим собранием членов объединения. Изменилось и название союза, который стал теперь именоваться Союз служивших в Российских Армии и Флоте (ССРАФ) [ГАРФ, ф. Р-5793, оп. 1, д. 96, л. 42].
Согласно нового Устава, союз являлся организацией взаимопомощи, не преследуя никаких политических целей, и только не допускал в свои ряды большевиков и сочувствующих им. К основным задачам ССРАФ относились: 1) объединение всех беженцев, служивших в военном и морском ведомствах[195], для оказания взаимной поддержки; 2) изыскание способов существования для членов Союза; 3) предоставление возможности членам Союза обмениваться знаниями военного характера; 4) способствование закреплению в сознании членов Союза необходимости строго охранять вековые традиции Российских Армии и Флота [MRC, box 2, f. Материалы СCРАФ]. Руководство Союзом сосредотачивалось в руках председателя, правления и ревизионной комиссии. Первым председателем ССРАФ был избран Генерального штаба генерал-лейтенант К.Ф. Вальтер[196], вице-председателем – контр-адмирал Ковалевский, председателем Правления – Генерального штаба генерал-майор П.Ф. Рябиков, правителем дел Правления и секретарем – Генерального штаба генерал-майор Г.Т. Киященко [ГАРФ, ф. Р-9145, оп. 1, д. 240, л. 7].
Численность союза в январе 1922 г. составляла всего 35 человек, но очень быстро выросла, достигнув в январе 1923 г. уже 152 человек. В начале 1924 г. членами союза являлись 185 человек, в середине 1925 г. – 209, из них 181 – офицеры [Там же, л. 10, 13, 44]. В июле 1928 г. союз численно вырос до 405 человек, включая 14 генералов, 74 штаб-офицера и 215 обер-офицеров [Шаронова, 2015, с. 178; MRC, box 2, f. Материалы СCРАФ]. И хотя генерал Рябиков, один из организаторов ССРАФ, отмечал в своих воспоминаниях, что «возможность вступления в союз и нижних чинов лишало союз “кастово-офицерского” лица и не отбрасывало от себя и честных, но простых рядовых воинов» [ГАРФ, ф. Р-5793, оп. 1, д. 1д, л. 333], ССРАФ имел преимущественно офицерский состав.