Кузьмин-Караваев и его соратники, выступая за скорейший созыв II Думы, как и прежде, связывали ее успех с единством действий левоцентристских сил («всех тех, кто хочет мирного, но безостановочного движения вперед – к народному благу и народной свободе»). В ходе избирательной кампании (январь 1907 года) они провозгласили «важнейшими задачами настоящей минуты» – наряду с политическими реформами, а также демократическими преобразованиями в сфере аграрного и рабочего вопросов, – отмену смертной казни, запрещение телесных наказаний, ограничение сферы действия военного суда над гражданским населением во время войны с иностранным государством театром военных действий. В конечном итоге Кузьмин-Караваев оказался единственным из лидеров ПДР, избранным во II Думу (снова от Тверской губернии).

«Авторитетнейший представитель II Думы» (по выражению «Русских ведомостей»), он на первом же заседании был предложен на пост председателя нижней палаты, но от баллотировки отказался. В письме к кн. С.Д. Урусову Кузьмин-Караваев разъяснял причины своего решения: «Существовать без заработка я абсолютно не могу. Председатель же Думы должен все свое время отдавать ей… и никакого вознаграждения со стороны не получать. С другой стороны, – подчеркивал он, – вопрос о Председателе не такой, чтобы из-за него стоило идти на конфликт с Государем, а потому, я думаю, что лучше всего было бы избрать лицо, по крайней мере, политически неизвестное». Помимо указанных соображений, Кузьмин-Караваев не считал для себя возможным занять председательское место и по следующей причине: «Положение председателя второй Думы будет труднее, и я очень сомневаюсь, чтобы мне удалось с этим справиться».

Отказавшись занять главное руководящее кресло, Кузьмин-Караваев активно работал в качестве председателя ряда думских комиссий (по рассмотрению законопроектов, внесенных в Думу Министерством юстиции; по вопросам о неприкосновенности личности), а также подкомиссии по военно-морскому делу, образованной в составе бюджетной. Он также был членом нескольких комиссий – редакционной, по выработке законопроектов об отмене военно-полевых судов и местном суде и др., – и подкомиссий, занимавшихся сметой и кредитами Министерства народного просвещения, сметой Переселенческого управления и т. д.

Кузьмин-Караваев и во II Думе последовательно выступал сторонником замены произвола законом, отстаивал необходимость «уважения чужого мнения и свободы слова», предостерегал от «однобоких» оценок и внесения партийной «страстности» в решение вопросов государственной важности. С началом проведения аграрной реформы Столыпина он осуждал методы государственного насилия в отношении крестьянской общины.

22 мая 1907 года Кузьмин-Караваев выступил в Думе с критикой законопроекта Министерства юстиции «Об оставлении в силе временного закона 18 августа 1906 года об усилении ответственности за распространение среди войск противоправительственных учений и суждений и о передаче в ведомство военных и военно-морских судов дел по означенным преступным деяниям». От лица думской комиссии он высказался за отклонение законопроекта по соображениям как общепринципиального, так и практического характера. В центре его внимания оказалось стремление власти к усилению ответственности за пропаганду в войсках, ускорению судебных решений путем дальнейшего распространения на граждан военной подсудности, изъятия соответствующих дел из ведения общих судов. Кузьмин-Караваев обращал внимание на то, что принятие данного законопроекта вернуло бы военную юстицию к законодательству времен Николая I, согласно которому она играла роль «специальной расправы по отношению к гражданам, причинявшим вред войску» и действовала параллельно и независимо от направления общего суда. Кузьмин-Караваев был убежден: невозможно возвращаться к данной системе «при том положении, в котором сейчас в общественном сознании находится армия». «Армия должна стоять вне политики… она должна пользоваться уважением населения; население должно смотреть на военную службу, как на службу почетную, – заявлял оратор. – Зачем же ставить орган этой армии – военный суд – в не свойственное ему положение? Неужели возможно допустить положение войска, как какого-то самостоятельного государства в государстве, с тем, что раз лицо нарушает интересы войска, раз деятельность лица направлена к разрушению армии, – то общая судебная власть в государстве умывает руки и говорит войску: „Бери его и расправляйся с ним“». Кузьмин-Караваев был глубоко убежден в том, что подобная постановка вопроса совершенно недопустима с политической точки зрения.

Отвечая на возражения оппонентов – главного военного прокурора и товарища министра юстиции, – Кузьмин-Караваев не находил их доводы убедительными. «Я не менее, чем представитель военного министерства, горячо желаю, чтобы военные мятежи отошли в прошлое, – заявлял он. – Я уже несколько раз высказывал свой взгляд на этот вопрос: военный мятеж может привести к гибели всего государства. Да, но эта связь между военным мятежом и той повышенной карательной санкцией, – плюс передача дела в военный суд, которая предлагается законопроектом, – мне кажется совершенно искусственной». Уверенный в том, что военный мятеж и пропаганда в войсках представляют собой «чрезвычайно глубокие явления», оратор заявлял о нецелесообразности борьбы с ними исключительно силовыми мерами: «Явление может найти свою естественную смерть тогда, когда многое и многое изменится в общих наших условиях; вырывать же из общего политического хаоса, в котором мы живем, одно явление и пытаться реагировать на это явление путем жестоких карательных мер, я думаю, что это способ, который еще более ведет и к развитию пропаганды в войсках, и ко всему тому, чему свидетелями мы были».

«России в переживаемую эпоху нужны не мстители за прошлое, а организаторы будущего», – эта мысль звучала рефреном в думских речах Кузьмина-Караваева. Профессионализм и многолетний опыт публичных выступлений обеспечили ему популярность как оратору и на очередном этапе думской деятельности. Его авторитет признавали политические оппоненты. Так, один из членов фракции социал-демократов в частном письме делился откровенным признанием: «Истинное удовольствие испытал, слушая речи Маклакова, Тесленко и Кузьмина-Караваева. Они лучше нас, и мы годимся им в ученики… Нельзя скрывать, что крайняя левая Думы представляет из себя „изнанку“: ни одного человека науки, ни одного талантливого оратора».

Хотя II Дума как зеркало отражала основные черты настроения российского общества в тот период («хаос в мыслях, рознь, всеобщее недоверие, классовое и партийное обособление, стремление к неосуществимому и к конкретно неопределенным идеалам»), Кузьмин-Караваев отмечал (прежде всего в деятельности думских комиссий) признаки, внушавшие надежду на то, что Дума, по его выражению, «образуется». «Не допустить кошмар „междудумья“», – такую задачу он поставил перед депутатами в своей речи с трибуны Таврического дворца еще 27 марта 1907 года, подчеркивая, что идея представительства еще жива в народе. «Только бы, – писал он спустя два месяца, накануне 3 июня 1907 года, – угроза роспуска исчезла – вот что всего более препятствует тому, чтобы Дума окончательно обратилась в парламент западного образца».

Вплоть до этой роковой даты мысль Кузьмина-Караваева и его сподвижников работала над поиском вариантов ликвидации противостояния между Думой и правительством. Понимая несбыточность надежд на успешное формирование Думского министерства, они развивали идею создания конституционного правительства, куда вошли бы лица, не участвовавшие в деятельности хотя бы последних трех составов кабинета министров. Впрочем, и возможность реализации этого замысла представлялась им проблематичной.

Острота разногласий между Думой и правительством, прежде всего в подходах к решению аграрно-крестьянского вопроса, явилась основной причиной роспуска и II Думы. «Год назад был „разгон“. Теперь – будничный, ординарный роспуск, к которому систематически и задолго готовились», – комментировал Кузьмин-Караваев царский Манифест 3 июня 1907 года. Драматизм этого события заключался, по его мнению, в нанесении жестокого удара по конституционной идее: вера в нее поколебалась ввиду отсутствия реальных, ощутимых для общества результатов недолгой деятельности Думы. «Подавленность и бессилие», – так характеризовал Кузьмин-Караваев настроение бывших депутатов – своих единомышленников – в июньские дни 1907 года. Попавшие под административные преследования, многие из них оказались в тяжелом материальном положении, сталкивались с препятствиями при попытках найти работу. Кузьмин-Караваев стал одним из инициаторов (наряду с В.А. Кугушевым и В.А. Харламовым) создания «Бюро по приисканию занятий и мест бывшим депутатам I и II Государственной думы». В своей благотворительной деятельности, продолжавшейся в 1907–1909 годах, Бюро рассчитывало не только на взаимопомощь депутатов, но и на поддержку «широких слоев русского общества». Упомянутый нами Оболенский отмечал большой личный вклад Кузьмина-Караваева в это начинание: «В этом деле он проявлял большую сердечность, и многие из перводумцев, находившихся в тюрьмах или просто лишившихся должностей и заработков, главным образом ему обязаны получавшейся ими материальной и моральной поддержкой».