С началом войны его знания оказываются настолько востребованными, что первоначально он возглавляет артиллерию Северо-Западного фронта, а после того, как 23 августа 1915 года Император Николай II стал Верховным Главнокомандующим, Шихлинского перевели в Ставку, и он возглавил всю артиллерию России. Приложил много сил для взаимодействия артиллерии с авиацией. В сентябре 1916 года создал школу для совместного обучения артиллеристов и лётчиков. В течение года школа произвела 5 выпусков.

2 апреля 1917 года за отличие по службе он был произведён в генерал-лейтенанты, а 9 сентября того же года был назначен командующим 10-й армией. Ратный труд Шихлинского в годы Первой мировой войны был отмечен орденами Св. Станислава 1- й степени, Св. Анны 1-й степени с мечами, Св. Владимира 2- й степени с мечами.

В Гражданскую войну с 29 декабря 1918 года по 28 апреля 1920 года, до прихода к власти в Азербайджане большевиков, Али Ага Шихлинский служил в армии Азербайджанской Демократической Республики в должности помощника военного министра. После создания Азербайджанской ССР Шихлинский был назначен 30 апреля 1920 года помощником наркома по Военным и Морским делам республики, исполнял обязанности военного руководителя наркомата.

После жестокого подавления антисоветского восстания в Гяндже в конце мая 1920 года практически все офицеры азербайджанской национальной армии были арестованы. В их числе Мехмандаров и Шихлинский. От репрессий их спасло только вмешательство тогдашнего руководителя Совнаркома Азербайджана Наримана Нариманова, который отправил генералов в Москву с сопроводительным письмом на имя В.И.Ленина следующего содержания:

«Дорогой Владимир Ильич!

После тщательного расследования оказалось, что эти генералы не причастны, но все же до упрочения нашего положения и с целью помочь нашему общему делу, мы решили их отправить в Ваше распоряжение для работы в штабе, так как они, как военные специалисты, являются незаменимыми. Один из них, Шихлинский, в царской армии считался «богом артиллерии». Политическое убеждение их: они ненавидят мусаватистов, убеждены, что Азербайджан без Советской России не может существовать, являются врагами Англии, любят Россию. До окончания польского фронта пусть они работают в Москве, а затем попрошу отправить их к нам для формирования наших частей. Необходимо за это время за ними поухаживать.

С коммунистическим приветом. Н. Нариманов. 1 августа 1920 года.»[4]

Находясь в Москве, Шихлинский выступал с докладами и лекциями в высших военно-учебных заведениях РККА.

В 1921 году вновь был переведён в Азербайджан, где состоял для особых поручений при Наркомвоенморе. Ему была установлена ежемесячная прибавка к жалованью в размере пятидесяти рублей золотом, «с сохранением этой прибавки и по выходе с военной службы, пожизненно».

Подготовил и опубликовал первый «Краткий русско-тюркский военный словарь» (1926). С 1929 года – персональный пенсионер.

Последние годы жизни он прожил в Баку, умер 18 августа 1943 года и был похоронен на Ясамальском кладбище в Баку.

Незадолго до смерти Шихлинский написал книгу «Мои воспоминания», которая увидела свет уже после смерти автора и была встречена с большим интересом.

Завершая рассказ об этом периоде, не удержусь от ложки дёгтя. Перед Первой мировой войной, когда Шихлинский уже считался богом артиллерии, решили, что он достоин возглавить артиллерию гвардии. Сами предложили и сами отказали. Причина же заключалась всего лишь в том, что Шихлинский был мусульманин.

В Красной армии как бы по инерции артиллерии уделяли большое значение. Да иначе и быть не могло, ведь сам товарищ Сталин, сказал, что «Артиллерия – бог войны». В те годы слово Бог сознательно писали с маленькой буквы. В действительности, он произнес эту фразу уже перед самой войной 5 мая 1941 года на приёме в честь выпускников академии Красной Армии. Дословно он, правда, сказал следующее: «Артиллерия – бог современной войны!» Наверное, об этой фразе никто бы и не узнал, но ее напечатали в передовице главной газеты той поры – в «Правде» от 20 июля 1941 года. Возможно, Сталин перефразировал известное изречение французского генерала Жана Батиста Вакетта де Грибоваля (J. – B. – Vakuete de Gribeauval): «Артиллерия – повелительница (богиня) сражений».