Если рассмотреть последующие два года, проведённые артистом на военной службе, то и они дают некоторые сведения о его периодических выступлениях в своём Императорском егерском полку в качестве скрипача, а часто и в качестве пианиста-аккомпаниатора его полковника – принца Ойгена Габсбургского – внучатого племянника самого Франца Иосифа II. Принц был певцом-любителем и водил близкую дружбу с молодым скрипачом и своим же пианистом-аккомпаниатором не случайно. Он знал его ещё со времени выступлений в Вене в качестве вундеркинда. Как-то бывший педагог юного скрипача «Пепе» Хельмесбергер взял его на светский приём в дом к княгине Паулине Меттерних. Хозяйка дома, несмотря на преклонный возраст, любила рассказывать остроумные, но рискованные анекдоты по-французски. Один из них она и рассказала, а в конце, заметив юного «Фрицци» спросила его, понял ли он смысл анекдота? Конечно, он всё понял, ведь он пробыл в Париже достаточно долго среди взроослых музыкантов и слышал такие анекдоты не раз, но чтобы не ставить в неловкое положение хозяйку он ответил: «Я всё понял, за исключением самого конца!», чем вызвал одобрительный весёлый смех всего общества. Вот с того дня принц Ойген и запомнил юного музыканта, а теперь «вольноопределяющегося» на военной службе австрийской «императорской королевской армии», выступавшего с ним часто во время различных светских приёмов. (Игра на рояле доставляла Крейслеру удовольствие на протяжении всей его жизни. Он начал акомпанировать скрипачам ещё в годы учения в классе Массара в Парижской Консерватории.)

Так же часто они вдвоём или в компании артистов сиживали в пивной на первом этаже отеля «Империал» на Кёртнер-ринг, неподалеку от Оперы. Надо полагать, что даже пиво в «Империале» стоило недёшево, и не приходится гадать, кто за него платил. Словом, принц-полковник был человеком артистической богемы и его многолетняя близкая дружба с всемирно известным впоследствии артистом была не случайной.

По окончании своей военной службы в 1896-м году, как человеку с гимназическим образованием Крейслеру было присвоено звание лейтенанта австрийской армии. Крейслер страшно гордился этим званием. Вероятно, всё-таки в нём жило чувство, что его дед появился в Вене совершенно без денег и вообще социального статуса, отец его уже стал врачом, а сам он даже и лейтенантом Императорской и королевской армии Его Величества.

Ещё до своей армейской службы по совету отца Крейслер два года посещал медицинское отделение Университета, полагая в будущем получить специальность врача. Однако, несмотря на свои двухлетние усилия, он не смог превозмочь в себе «нейтрального» отношения к занятиям в анатомическом театре… По совету друга отца, уже упоминавшегося знаменитого хирурга Бильрота, молодой человек целиком и полностью возвращается к занятиям музыкой. («Стать офицером – неплохо, врачом он может стать самым средним из средних. Лучше быть первоклассным музыкантом!» – был совет Бильрота.)

Отец скрипача снимает для него на втором этаже таверны на окраине Вены комнату, где молодой человек мог бы заниматься по многу часов на скрипке, делать свои аранжировки, постепенно создавая собственный репертуар и вообще жить немного более независимой жизнью.

А дальше, вплоть до сенсационного дебюта Крейслера в Берлине, начинается время его сумбурных и безответственных похождений. Во время своей поездки в Париж, он познакомился с прелестной девушкой, по имени Мими – героини оперы Пуччини «Богема». Он не только истратил на эту девицу всё, что у него было, но… заложил в ломбард свою скрипку! Девица была, как видно не только мастером своего дела, что произвело такое впечатление на сравнительно неопытного молодого артиста, но и прекрасно ориентировалась, как и полагалось в её профессии, в денежных делах. Одним словом у «Фрицци» не было денег, чтобы платить хозяйке пансиона, которой пришлось написать письмо его отцу в Вену. Она заперла своего постояльца в комнате и не выпускала его до самого приезда доктора Крейслера в Париж.