Свидетелями покушения стали трое электриков, которые вели ремонтные работы в коридоре Смольного: Васильев, Леонник, Платоч. Последний утверждал, что после выстрела он сбил Николаева с ног сильным ударом молотка, а затем обезоружил его. Однако его показания опровергались другими свидетелями.

Сталин почти немедленно узнал об убийстве, когда он проводил в Кремле совещание с участием Молотова, Ворошилова, Кагановича и Жданова. Было принято решение выехать в Ленинград. Почти все присутствовавшие на совещании, кроме Кагановича, отправились на вокзал. К ним присоединились заместитель Кагановича по комиссии партийного контроля Ежов, первый секретарь ЦК ВЛКСМ А. В. Косарев, Г. Г. Ягода, первый заместитель наркома внутренних дел СССР Я. С. Агранов, нарком внутренних дел Белорусской ССР Л. М. Ваковский, а также другие работники НКВД.

Однако до отъезда состоялся разговор Сталина с Енукидзе. Не осталось никаких свидетельств этого разговора, но его результатом стало опубликованное на следующий день постановление ЦИК и СНК СССР «О внесении изменений в действующие уголовно-процессуальные кодексы союзных республик». Зная сталинский стиль подготовки даже гораздо менее значительных документов, очевидно, что выход в свет этого постановления нарушал заведенный самим Сталиным и тщательно соблюдавшийся им порядок разработки правительственных распоряжений и государственных законов. Во-первых, это постановление было принято без согласования с остальными членами Политбюро. Во-вторых, этот законодательный акт был подготовлен не членом и не кандидатом Политбюро, а секретарем ЦИК. В-третьих, утверждалось, что постановление было составлено на основе сталинских указаний, произнесенных по телефону, даже без проверки Сталиным окончательного текста. Можно допустить, что, узнав об убийстве Кирова, Сталин был вне себя от гнева и возмущения и сам нарушил обычный порядок подготовки подобных решений.

Есть свидетельства, что Сталин не смог сдержать свой гнев, когда он увидел среди встречавших его на вокзале в Ленинграде представителей ОГПУ. Говорили, что он не то грубо отругал встретившего его Ф. Д. Медведя, не то даже ударил его по лицу. Правда, в дальнейшем Сталин старался держать под контролем свои эмоции. Об этом свидетельствует его спокойное поведение на предварительном следствии в Ленинграде и допросах Николаева. И все же было очевидно, что убийство Кирова застало его врасплох, так как не укладывалось в его представления о том, как могла развиваться политическая борьба в СССР.

Следователи предлагали различные версии. Телефонный номер германского консула в Ленинграде, найденный в записной книжке Николаева, позволил следователям разрабатывать «германский след». К этому времени гитлеровцев уже не раз обвиняли в организации покушений. 29 декабря 1933 года членами фашистской румынской организации «Железная гвардия», связанной с нацистами, был убит премьер-министр Румынии Й. Г. Дука. 25 июля 1934 года австрийскими нацистами был убит премьер-министр Австрии Э. Дольфус. 9 октября 1934 года в Марселе были убиты король Югославии Александр I и министр иностранных дел Франции Ж. Л. Барту. Хотя убийство совершил хорватский националист, в организации теракта не без оснований подозревали гестапо. Быстрый отъезд германского консула из Ленинграда лишь усугубил подозрения относительно ответственности Германии за убийство Кирова.

Так как Мильда Драуле была латышкой, то разрабатывался и «латышский след». Однако вскоре внимание следствия было переключено на связи Николаева со сторонниками Зиновьева. Сталину показали записку о деятельности зиновьевской группы, подготовленную работниками НКВД в середине 1934 года. Авторы записки просили у Кирова дать им санкцию на арест членов группы, но Киров ответил им отказом. Теперь членов этой группы арестовали по обвинению в подготовке антиправительственного заговора. Выбор зиновьевцев в качестве основной мишени вряд ли был случайным. Как бывший сторонник Бухарина, Ягода был давним противником Зиновьева и Каменева. Он имел основание и лично ненавидеть Каменева. Известно, что Каменев распространял запись своей беседы с Бухариным 1928 года, из которой следовало, что Ягода является надежным сторонником Бухарина.

Развитию версии об ответственности оппозиционеров способствовала реакция Троцкого. В своем «Бюллетене оппозиции» Троцкий расценил «убийство Кирова, умного и безжалостного ленинградского диктатора» как признак кризиса власти Сталина. Троцкий философствовал: «Как и в царское время, политические убийства являются безошибочным симптомом грозовой атмосферы и предсказывают начало открытого политического кризиса».

В то же время вскоре стало ясно, что кто-то в органах внутренних дел пытается запутать ход следствия. Сталин еще был в Ленинграде, когда ему сообщили, что начальник охраны Кирова Борисов, арестованный сразу же после убийства, по пути на допрос стал жертвой дорожно-транспортного происшествия и погиб. Вскоре Сталин, Молотов, Ворошилов покинули Ленинград. А странности следствия не прекратились. Слесарь С. А. Платоч, который якобы обезоружил Николаева, был арестован, но затем бесследно исчез. Два других свидетеля, Васильев и Леонник, были уволены с работы, а затем также бесследно исчезли.

Однако Ягода уверял, что следствие идет по верному следу. Вскоре начались аресты среди сторонников Зиновьева в Ленинграде.

На основе данных следствия вместе с Николаевым судили членов так называемого ленинградского центра зиновьевцев во главе с бывшим секретарем Выборгского райкома ВЛКСМ И. И. Котолыновым. Все подсудимые были приговорены к смертной казни за участие в террористическом заговоре с целью уничтожить руководителей партии. Приговор был приведен в исполнение 29 декабря. Позже по делу «Ленинградской контрреволюционной зиновьевской группы Сафарова, Залуцкого и других» было привлечено 77 человек, в том числе 65 членов ВКП(б).

Однако состоявшийся 15–16 января 1935 года в Ленинграде процесс по делу «московского центра» зиновьевцев не увенчался столь же суровым приговором, как в отношении Николаева и его подельников, несмотря на то, что во время процесса по всей стране проходили митинги, на которых выдвигались требования о расстреле всех обвиняемых. Зиновьев был приговорен к 10 годам заключения, Каменев — к 5 годам. Приговор гласил: «Судебное следствие не установило фактов, которые давали бы основание квалифицировать преступления зиновьевцев как подстрекательство к убийству С. М. Кирова». Приговор соответствовал оценке Сталина роли Зиновьева и Каменева, изложенной в написанном им «закрытом письме ЦК ВКП(б)» от 18 января 1935 года «Уроки событий, связанных со злодейским убийством тов. Кирова».