В Казахской ССР голосование на референдуме СССР проводилось по вопросу, сформулированному Верховным Советом республики: "Считаете ли вы необходимым сохранение Союза ССР как Союза равноправных суверенных государств". При этом Президиум Верховного Совета Казахской ССР официально просил включить результаты голосования в общие итоги референдума СССР.
В шести союзных республиках (Литва, Эстония, Латвия, Грузия, Молдавия, Армения), которые ранее объявили о независимости или о переходе к независимости, всесоюзный референдум фактически не проводился. Властями этих республик не были сформированы Центральные избирательные комиссии референдума, но часть граждан, проживающих на территории этих республик, все же смогла проголосовать.
Ряд местных Советов народных депутатов, трудовые коллективы и общественные объединения на предприятиях, в учреждениях и организациях, а также командование воинских частей, руководствуясь пунктами 3 и 5 постановления Верховного Совета СССР "О ходе выполнения постановления Верховного Совета СССР об организации и мерах по обеспечению проведения референдума СССР 17 марта 1991 года", самостоятельно образовали округа и участки, окружные и участковые комиссии, зарегистрированные Центральной комиссией референдума СССР. Референдум также состоялся в Абхазии, Южной Осетии, Приднестровье и Гагаузии.
Центральная комиссия референдума СССР установила, что абсолютное большинство граждан высказались за сохранение союзного государства в обновленном виде.
В РСФСР в списки для голосования были включены 105 643 364 человек; приняли участие в голосовании 79 701 169 (75,44%). Из них ответили "Да" 56 860 783 (71,34% участвовавших, 53,82% избирателей), "Нет" - 21 030 753 (26,39%). Признаны недействительными 1 809 633 бюллетеней.
В Украинской ССР "Да" ответили 70,2%; в Белорусской ССР - 82,7%; в Узбекской ССР - 93,7%; в Казахской ССР - 94,1%; в Азербайджанской ССР - 93,3%; в Киргизской ССР - 94,6%; в Таджикской ССР - 96,2%; в Туркменской ССР - 97,9%.
В Литве, где референдум проводился только на участках в воинских частях и на предприятиях, за "обновленный Союз" высказались около 16% жителей республики, имеющих право голоса. В Латвии, где общесоюзный референдум официально не проводился, на избирательных участках, организованных на предприятиях и в воинских частях, примерно 21% от общего числа жителей Латвии, имеющих право голоса, высказались за "обновленный Союз". Положительно ответили на этот вопрос 21,3% жителей Эстонии, имеющих право голоса.
В Молдавии, где по решению парламента референдум не проводился, за Союз проголосовали около 21 % избирателей на участках, организованных на предприятиях и в воинских частях. (Коммерсантъ weekly, Москва, 25.03.1991.)
Абхазия и Южная Осетия, принявшие участие во Всесоюзном референдуме, проголосовали за сохранение СССР. Согласно сообщению Центральной комиссии референдума, в частности, в Абхазской АССР в голосовании приняли участие 52,3% числа граждан, включенных в списки для голосования, из которых 98,6% ответили "да".
Однако в дальнейшем воля граждан была проигнорирована рядом политических деятелей и Союз прекратил свое существование в результате подписанных 8 декабря 1991 года Беловежских соглашений.