Настоящая известность к Борису Романовичу пришла в 1939 году. В январе Гмыря принял участие во Всесоюзном конкурсе вокалистов в Москве, где ему была присуждена вторая премия и звание лауреата. В том же году осенью певец окончил с отличием Харьковскую консерваторию по классам П. Голубева (пение) и С. Масловской (сценическое мастерство). В «выпускной» опере консерватории Гмыря спел партию Бориса Годунова, которую традиционно исполняли не выпускники, а опытные певцы. Для Бориса Романовича было сделано исключение. Говорят, он замучил художественную руководительницу просьбами достать книги не только о самой партии в этой опере Мусоргского, но и о личности самого Годунова, об отношении к его фигуре Пушкина и т. д. Это серьезное отношение в работе над ролью отличало певца и впоследствии, все энциклопедии отмечают, что Гмыря достигал полного слияния музыкального и драматического начала в своих партиях. В недавно показанном по телевидению документальном фильме о знаменитом басе директор Пушкинского музея в Михайловском рассказывал интересные вещи о том, как готовящийся к очередному исполнению партии Годунова уже маститый певец Гмыря приезжал в музей, ходил по комнатам, просил разрешения спеть на крыльце, в комнате, посмотреть на рукописи поэмы. Все для того, чтобы лучше понять замысел великого поэта, атмосферу, в которой он писал!

Сразу по окончании консерватории Гмырю пригласили в Киевскую оперу. Он согласился – ведь столица-то уже находилась именно в Киеве, там открывались большие возможности для карьерного роста. Впрочем, в Киевском оперном театре все складывалось далеко не просто. Дело в том, что у Бориса Романовича был потрясающе широкий диапазон. Он в состоянии исполнять и партии баса, и баритона, и даже тенора! Некоторое время в «Тарасе Бульбе» Гмыря пел и партию Тараса (бас) и партию Андрея (тенор). Правда, злоупотреблять этими способностями не стоит, чтобы не потерять силу и красоту голоса. Но Гмыре стали регулярно давать и баритональные и тенорные партии. Однажды он даже написал специальное заявление на имя директора: «Прошу не загружать меня теноровыми партиями, поскольку это ведет к деградации голоса». В конце концов эксперименты прекратились. Вообще, все, кто имел дело с Борисом Романовичем, вспоминают, что его отношение к голосовым связкам было более чем трепетным. Одна из его младших коллег рассказывает, что однажды шла по улице в веселой компании и встретила Гмырю. Вечером корифей позвонил ей домой и отчитал: «Как Вы себя ведете. Вы шли по улице в распахнутом пальто и смеялись. Я уж не говорю, что на улице лучше вообще рот не открывать, но еще и смеяться!!!» По десять часов в день Гмыря проводил у рояля, курить бросил в молодости. Он говорил, что успехом обязан на 10 процентов таланту, а на 90 – труду. Кроме музыки, его увлекал еще ряд вещей – автомобили, охота (правда, рассказывают, что ружье свое он так ни разу и не разрядил – ходил, смотрел). Находясь на гастролях, Борис Романович в свободное время обязательно посещал музеи. К деньгам относился спокойно, к моменту его смерти на книжке знаменитого баса было 434 рубля.

Судьбу певца в значительной мере определили события Великой Отечественной войны. Когда она началась, Борис Гмыря с женой находился в Крыму. Они выехали не в Киев, а в Харьков, но не успели на поезд, с которым отбывали местные артисты. К несчастью, певец в это время заболел, и его супруга больше времени посвящала уходу за прикованным к постели мужем, чем поисками возможности покинуть город. В результате, когда состояние здоровья Бориса Романовича улучшилось, немцы уже заняли Харьков. В сезон 1941/42 года Гмыря выступал в местном театре, пел партии Сусанина, Тараса Бульбы, Коллена в «Богеме», Рокко в бетховенском «Фиделио». Немцы относились к большому певцу с уважением. Дальше начинаются легенды. Говорят, что певца возили в Германию, где он выступал специально для Гитлера. Но этото, скорее всего, неправда. Еще говорят, что лично Кох дал приказ забрать певца при отступлении живым или мертвым. Борис Романович действительно оставил город вместе с немцами, когда летом 1943 года Харьков брали советские войска. Не исключено, что певец справедливо опасался, что Советы не простят ему «сотрудничества с нацистами». (Если уж анкеты сотен тысяч обычных людей были навсегда испорчены отметкой о «пребывании на оккупированной территории», то что говорить о заметных фигурах типа Гмыри!) Но в результате Борис Романович не покинул пределов Украины. По одним данным, он сбежал из обоза под Полтавой с молчаливого согласия местного немецкого гарнизонного руководства. По другим, что просто находился в обозе, отбитом советскими частями. Судьба Бориса Гмыри могла сложиться трагически, но спасло имя. Творчество Гмыри знали и любили Хрущев и Сталин. Первый выпросил разрешения у второго, и Гмырю определили опять в Киевский оперный театр. За границу с тех пор его выпускали не дальше соцлагеря