В Молдавской ССР был бойкотирован Всесоюзный референдум, но его проведение поддержали самопровозглашенные Республика Гагаузия и Приднестровская Молдавская ССР Участвовало 84 % избирателей Приднестровья, из числа которых 98 % проголосовали за сохранение СССР В Гагаузии участвовало 97 % избирателей, из числа которых 98 % высказались за сохранение СССР В Кишиневе Всесоюзный референдум проходил на территориях воинских частей Минобороны СССР

Власти Армении отказались от организации проведения Всесоюзного референдума, и в феврале 1991 года Верховный Совет Армении принял процедуру организации референдума по вопросу о независимости республики. Референдум должен был состояться через шесть месяцев.

21 сентября был проведен референдум о выходе из состава СССР и установлении независимой государственности с вопросом «Согласны ли вы, чтобы Республика Армения была независимым демократическим государством вне состава СССР?». 95 % избирателей приняли участие в голосовании, и 99 % проголосовавших высказались за выход Армении из состава Советского Союза.

В референдуме, состоявшемся 17 марта 1991 года, из 185,6 миллиона (80 %) граждан СССР с правом голоса приняли участие 148,5 миллиона (79,5 %); из них 113,5 миллиона (76,43 %), ответив «Да», высказались за сохранение обновленного СССР.

«Считаете ли вы необходимым сохранение Союза Советских Социалистических Республик как обновленной Федерации равноправных суверенных республик, в которой будут в полной мере гарантироваться права и свободы человека любой национальности?»

«Да» -76,43 %.

Только около половины москвичей и ленинградцев проголосовали за сохранение СССР.

21 марта 1991 года Верховный Совет СССР рассмотрел предварительные результаты референдума. Он отметил, что за сохранение Союза Советских Социалистических Республик высказались 112 млн человек, то есть 76 % голосовавших, а следовательно, «судьба народов страны неразделима, и что только совместными усилиями они могут успешно решать вопросы экономического, социального и культурного развития».

Отдельно отмечалось, что, несмотря на то что органами власти ряда республик (Грузия, Литва, Молдова, Латвия, Армения, Эстония) не были выполнены решения IV Съезда народных депутатов СССР и Верховного Совета СССР о проведении референдума, более двух миллионов граждан СССР, проживающих в этих республиках, выразили свою волю и сказали «Да» Союзу ССР. Такое проявление гражданственности Верховный Совет СССР оценил как «Акт мужества и патриотизма».

Верховный Совет СССР утвердил Постановление от 21 марта 1991 года № 2041-1:

1. Государственным органам Союза ССР и республик руководствоваться в своей практической деятельности решением народа, принятым путем референдума в поддержку обновленного Союза Советских Социалистических Республик, исходя из того, что это решение является окончательным и имеет обязательную силу на всей территории СССР

2. Рекомендовать Президенту СССР и Совету Федерации, Верховным Советам республик исходя из итогов состоявшегося референдума энергичнее вести дело к завершению работы над новым Союзным Договором с тем, чтобы подписать его в кратчайшие сроки. Одновременно ускорить разработку проекта новой Конституции Союза ССР».

Также Верховный Совет СССР предложил Комитету конституционного надзора СССР рассмотреть вопрос о соответствии принятых в связи с проведением референдума актов высших органов государственной власти республик, ограничивающих права граждан СССР, Конституции СССР и законам СССР 3 апреля 1991 года Комитет конституционного надзора СССР подтвердил свое заявление от 5 марта того же года о том, что любые акты высших органов государственной власти республик, прямо или косвенно препятствовавшие гражданам СССР свободно участвовать в общесоюзном референдуме 17 марта 1991 года, противоречили Конституции СССР