1 апреля 1921 г., на новом месте службы, Орлов женился на Марии Владиславовне Рожнецкой. Его невеста, поразительно красивая и умная женщина из Киева, была на восемь лет моложе его. Ей разрешили оставить работу архивариуса в Министерстве иностранных дел для поступления в медицинский институт. В 16 лет она вступила в партию и в 1919 году начала работать в советских учреждениях, а затем ушла добровольно служить в Красную Армию, став канцелярским работником в штабе Юго-Западного фронта, где она впервые встретилась с Орловым. Совершенно необычно для романа, который развивался в условиях войны: взаимная привязанность оказалась прочным союзом, их отношения выстояли во время крушения карьеры Орлова и служили для них обоих эмоциональным якорем спасения в течение почти полувека>19.
Осенью 1921 года молодожены возвратились из Архангельска в Москву. Там Мария поступила на медицинский факультет при 2-м Московском университете, а ее муж вернулся в Школу правоведения и тогда же получил назначение на должность следователя Верховного трибунала ВЦИК. Официально его связь с ЧК закончилась, однако на самом деле это был лишь прием, который Дзержинский использовал для того, чтобы позволить «избранным» чекистам приобрести опыт юридической работы и респектабельность, которые помогли бы им в дальнейшей службе. Коммунисты практиковали также назначение чекистов и партийных функционеров на работу в гражданские учреждения в целях укрепления политической благонадежности их персонала. Таким образом, возобновив заочную учебу в Школе правоведения, Орлов получил возможность закончить ее три года спустя с дипломом юриста.
В Верховном трибунале Орлов работал под началом Николая Васильевича Крыленко, видного юриста и партийного деятеля. Хотя у Орлова еще не было достаточного опыта, он, тем не менее, помогал в составлении первого Уголовного кодекса, введенного в Советском Союзе. Его вклад можно проследить по статьям, появлявшимся в номерах «Еженедельника советской юриспруденции» за 1922 год. Именно в тот период, когда Орлов помогал созданию прочного правового фундамента советского государства, 1 сентября 1923 г. родилась его дочь Вероника>20.
В качестве помощника прокурора и следователя по делам, квалифицируемым как «экономические преступления», вспоминал впоследствии Орлов, ему нередко приходилось представлять дела в тех же судах, что и Андрею Вышинскому, бывшему меньшевику, примкнувшему к победившим коммунистам после революции. Двенадцать лет спустя Вышинский, прирученный партией руководитель юридического факультета Московского университета, приобрел дурную славу как режиссер-постановщик сталинских показательных судебных процессов. Когда они работали вместе в Верховном суде, там не было недостатка в делах, подлежащих уголовному преследованию. Голод и разруха, порожденные двумя с половиной годами Гражданской войны, вскоре вынудили Ленина, всегда отличавшегося прагматизмом, притормозить шествие военного коммунизма, введя так называемую новую экономическую политику, которая частично восстанавливала капитализм и привлекала инвестиции с Запада>21.
Одним из тех, кому Дзержинский поручил расследование совершившихся на этой почве «проступков», был Орлов, которого в 1923 году пригласили в штаб-квартиру ОГПУ и предложили провести расследование с целью возбуждения судебного преследования по делу о коррупции, связанному с обращением государственной собственности в личную.
Орлов представил свои выводы специальному заседанию Политбюро, на котором присутствовали Сталин и Дзержинский. Хотя расследование было проведено со впечатляющей тщательностью, Сталин с успехом аргументировал отклонение предложенного Орловым вердикта о невиновности. По его глубокому убеждению, увеличение числа смертных приговоров по политическим соображениям послужит мощным сдерживающим фактором для других экономических преступников. Тем не менее на Дзержинского произвело впечатление бесстрашное представление дела его специально подобранным следователем, по его настоянию Орлов возвратился в штаб-квартиру ОГПУ и получил должность в Экономическом управлении, известном как ЭКУ