Несмотря на первые неудачи подчинить себе командиров самостоятельных отрядов, Дутов не сложил руки и занялся реорганизацией находившихся под его командованием частей. К концу 1920 г. отряд Дутова состоял из 1-го Оренбургского казачьего полка (Мазар), Семиреченского пластунского батальона численностью в 80 человек (Суйдин), кадрового пластунского батальона (Чимпанцзе, 2 сотни), атаманской батареи, конвойной и особой сотни, инженерной и комендантской команд. Существовали отрядный суд чести и гауптвахта [Там же, с. 355].
Летом 1920 г. китайские власти Тарбагатайского уезда, стремясь добиться распыления русских воинских частей, приложили немало сил, чтобы уговорить генерала Анненкова перебраться в Пекин, а его части перевести вглубь китайской территории. В конце концов, Анненков дал согласие на перемещение своих бойцов в район Урумчи. В середине августа три эшелона с анненковцами двинулись вглубь Китая [Наземцева, 2013, с. 31].
В Урумчи китайцы развернули работу по разложению отряда, добившись ухода части анненковцев в Россию. В феврале 1921 г. была достигнута договоренность о продолжении перемещения русских подразделений. Эшелоны с офицерами и бойцами были направлены в Гучен, где китайские власти, узнав, что русские незаконно сохранили у себя много оружия, отказались от дальнейшего их снабжения продовольствием. В ответ на это анненковцы взяли город в осаду. Достичь перемирия удалось только в апреле в обмен на сдачу русскими оружия (кое-что из оружия все-таки вновь удалось спрятать). После возобновления снабжения русские части двинулись дальше на восток. Но после отбытия первых эшелонов с лейб-атаманцами и кирасирами из Гучена Анненков был арестован китайцами и водворен в тюрьму в Гучене, позднее переведен в Урумчи, где находился до января 1924 г. [Там же; HIA. Serebrenikov Papers, box 21, f. 21.6].
Сначала оставшиеся без командира анненковские части хотели возвратиться в Гучен и отбить атамана силой, но не все поддержали эту идею. Два месяца лейб-атаманцы и кирасиры находились в Хами, после чего решили следовать дальше на восток. По требованию китайской стороны продвижение разрешалось только небольшими группами по 20–30 человек по маршруту Аньсичжоу – Ланьчжоу – Гуйхуачен – Баотоу – Пекин – Тяньцзин. Весь конный состав анненковцами был продан, поэтому до Баотоу добирались на арбах, далее до Пекина – по железной дороге [Шулдяков, 2004, с. 107].
Часть Лейб-атаманского полка во главе с полковником П.Д. Илларьевым в апреле 1922 г. прибыла в Южное Приморье, где анненковцы присоединились к 3-му «каппелевскому» корпусу Дальневосточной армии