В октябре 1923 года центральное правительство Китая назначило Ли Цзяао своим «дипломатическим представителем в России». Таким образом, в советско-китайских отношениях сложилось редкое в практике международных отношений положение: пекинское правительство по-прежнему «не признавало» СССР, хотя в Москве и Пекине находились дипломатические представители обеих стран. Кроме того, советские консульские учреждения были открыты в 1923 году в Шанхае, Чифу и Кантоне, а советские уполномоченные действовали в Харбине, на станции Маньчжурия, Пограничная и др. Китайские консулы были в Чите, Благовещенске, Хабаровске, Никольск-Уссурийском и Владивостоке.

Начав советско-китайские переговоры, Л. М. Карахан предложил пекинскому правительству сначала восстановить официальные дипломатические отношения, а затем решать все другие вопросы. Однако пекинское правительство настояло на том, чтобы наметить и обсудить сначала все вопросы, урегулирование которых представляло интерес для обеих сторон. Это был курс на затяжку переговоров, принятый под давлением империалистических держав. К тому же междоусобная борьба различных военных клик и группировок создавала неустойчивое положение в самом китайском правительстве, которое не выходило из состояния перманентного кризиса. Все это не могло не отражаться на советско-китайских переговорах, которые фактически прекратились.

О жизни Льва Михайловича в Пекине в этот период мы узнаем из его писем к жене, любезно предоставленных нам его дочерью Ириной Львовной. Дело в том, что в ноябре 1923 года Льву Михайловичу пришлось отправить свою жену Веру Викторовну в Москву, так как она была в положении и ей требовалось постоянное врачебное наблюдение.

Рассказывая о своем житье-бытье в Пекине, он писал ей 26 ноября: «Неделями не выхожу, только гуляю по балкону. Вечерами холодно, тихо, ни души, кроме дежурного. Бывает иногда тоскливо. Сейчас затишье, меньше вижу людей. Сижу обыкновенно в кабинете до 2–3 часов, благо ты не тушишь огня и не устраиваешь скандала. В комнате прохладно, в особенности к утру. Начал усиленно заниматься английским. Это радует меня очень. Читаю много. Посылай иногда интересные вещи».

В другом письме Вере Викторовне от 8 января 1924 года Л. М. Карахан указывал, что положение в Пекине остается неизменным и «не может серьезно ни улучшиться, ни ухудшиться». Переговоры пока приостановились. «Может, это к лучшему, ибо наши дела в Европе улучшаются».

Говоря о себе, он сообщил: «Английский — подвигается. За последний месяц занимаюсь ежедневно и через месяца два смогу читать газеты, а это главное».

В письме от 22 января он впервые сообщает о своих планах поехать в Кантон, к Сунь Ятсену, который еще осенью звал его к себе, если переговоры с пекинским правительством зайдут в тупик.

В личных письмах Сунь Ятсену от 7 и 14 января 1924 года он высказывает некоторые мысли о дальнейшем развитии китайской революции. Л. М. Карахан направил приветственную телеграмму первому съезду созданной Сунь Ятсеном партии Гоминьдан, занимавшей в тот период революционные позиции.

Одновременно он продолжает неофициальные переговоры с представителями пекинского правительства, часто встречается с журналистами, ведет большую работу с общественностью.

17 января 1924 года Л. М. Карахан направил китайскому представителю на переговорах Ван Чжэнтину письмо, в котором выразил надежду, что здравая точка зрения в конце концов будет принята пекинским правительством. «Я черпаю надежду в той эволюции, которая на наших глазах произошла в позиции пекинского кабинета за последние годы. В 1918–1920 гг. он принимал участие в попытках свержения Советского правительства, затем в 1921–1922 гг. он отказался от интервенции, но пока еще был против обмена представителями и не соглашался восстановить нормальные отношения, предпочитая ограничиться только торговым договором. И наконец, теперешний период, когда китайское правительство будто бы согласно восстановить нормальные отношения, но лишь при известных условиях, которые являются как бы ценой этого важного политического акта. Я надеюсь, что придет день, когда китайское правительство изменит и теперешнюю свою позицию, и тогда я буду вместе с Вами счастлив открыть конференцию, чтобы покончить со всеми несомненно легко разрешимыми русско-китайскими вопросами».

В конце января скорбная весть облетела мир. Умер вождь советского народа и всего международного рабочего класса В. И. Ленин. Правительство Южного Китая объявило трехдневный траур. Сунь Ятсен в телеграмме Л. М. Карахану просил выразить Советскому правительству «чувства глубокой скорби по случаю ухода из кипучей жизни Советской России великого Ленина».

Тяжело переживал смерть Владимира Ильича и Лев Михайлович Карахан. 9 февраля 1924 года он пишет своей жене:

«До сих пор все мысли мои там, в Москве, около мавзолея, где лежит его тело. Трудно представить, как тяжело было здесь, на отлете за тысячи верст, переживать эту боль. Было чувство, что умер родной отец, самый близкий человек.

Несмотря на болезнь, действительную серьезность которой я знал лучше, чем многие, это было неожиданным ударом для меня и для миллионов других. Но вместе с болью при мысли, что его нет, меня и, я думаю, многих охватывает особая твердость, напряженность и готовность с утысячеренной силой работать и работать для дела, которому мы отдали свою жизнь и готовы отдать ее тысячу раз.

Его значение неизмеримо. Мы, современники и ученики его, не сможем учесть, какую роль он играл и будет играть в истории человечества».

1924 год вошел в историю внешней политики СССР как год признания Советского Союза буржуазными государствами. Начало «полосе признания» положила Англия. За ней последовали Италия, Австрия, Греция, Швеция и другие страны. В новой международной обстановке стало менять свою позицию в отношении СССР и китайское правительство. Л. М. Карахан писал 9 февраля 1924 года в НКИД: «После признания нас Англией и Италией здесь, в Пекине, можно наблюдать некоторую растерянность. Китайцы чувствуют, что они потеряли лицо, что позиция, которая нами была занята с самого начала, а именно «сперва признание, а потом конференция», эта наша позиция фактически принята Англией».