После катастрофы под Сталинградом Штауфенберг попросил направить его на фронт и был назначен начальником штаба 10-й танковой дивизии, находившейся в Тунисе. 7 апреля 1943 года автомобиль Штауфенберга наскочил на мину, он потерял левый глаз, правую руку, два пальца левой руки и получил ранения в голову и в колено. Любой другой человек на его месте подал бы в отставку, но Штауфенберг решил остаться в строю с тем, чтобы завершить священную миссию. К концу сентября 1943 года он получил звание подполковника и вернулся в Берлин на должность начальника штаба одного из управлений сухопутных войск вермахта. Одновременно он приступил к тщательной подготовке покушения на Гитлера.

Вскоре вокруг деятельного аристократа фон Штауфенберга образовалась большая группа заговорщиков. В ее состав вошли генерал Бек, его начальник генерал Ольбрихт, начальник организационного управления сухопутных войск генерал Штифф, первый генерал-квартирмейстер штаба сухопутных войск генерал Эдуард Вагнер, начальник службы связи при верховном главном командовании генерал Эрих Фельгибель, начальник артиллерийско-технического управления генерал Фриц Линдерман, начальник берлинской комендатуры генерал Пауль фон Хазе, начальник отдела иностранных армий полковник барон фон Рённе, начальник штаба отдела иностранных армий капитан граф фон Матюшка и другие.

Заговорщики хотели иметь в своих рядах кого-либо из действующих генерал-фельдмаршалов, но это оказалось непростым делом. Генерал-фельдмаршал фон Вицлебен, который одним из первых примкнул к заговору и намечался на должность главнокомандующего вооруженными силами, находился в резерве и не имел в своем подчинении войск. Командующий войсками на западе генерал-фельдмаршал фон Рундштедт не пожелал нарушать присягу, данную фюреру. Так же ответил и генерал-фельдмаршал фон Манштейн. Совсем неожиданно согласился примкнуть к заговору генерал-фельдмаршал Роммель, но он не пользовался доверием у многих заговорщиков. Поэтому ему сообщили, что оппозиционеры только намерены арестовать фюрера и потребовать от него публичного отречения от власти. Роммель одобрил эту идею, но он категорично возражал против убийства Гитлера.

Основной идеей заговора было, после устранения Гитлера, заключение перемирия с западными союзниками. Часть заговорщиков считала, что после этого армии союзников присоединятся к войскам вермахта, ведущим военные действия на востоке, с тем чтобы не допустить распространения большевистской заразы в Европе. Но другая часть, в том числе и сам Штауфенберг, больше ориентировалась на то, что после убийства Гитлера удастся договориться с Советским Союзом, так как И. В. Сталин много раз повторял, что его страна ведет войну не с германским народом, а с фашистами. При этом они ссылались на декларацию, принятую после встречи Черчилля и Рузвельта в Касабланке 24 января 1943 года, заявившую о ведении войны до безоговорочной капитуляции Германии. Советский Союз присоединился к этой декларации только в октябре 1943 года, что вселяло в заговорщиков надежды в возможность договориться с Москвой в обход Лондона и Вашингтона.

План заговора носил кодовое название «Валькирия» (по скандинавско-германской мифологии, дева, витающая над полем сражения в выборе тех, кому суждено погибнуть). После покушения на Гитлера в Растенбурге войска, преданные заговорщикам, должны были занять ключевые точки Берлина, рейхсканцелярию, министерства, штабы СС и гестапо. Генералов, не поддержавших заговорщиков, было решено арестовать.

Но время шло и развертывались события, которые играли не в пользу заговорщиков. К июню 1944 года гестапо, постоянно производя аресты, подобралось к ядру заговора. Еще весной Гиммлер предупредил опального Канариса, что ему известно о заговоре и что его люди наблюдают за многими подозрительными генералами и офицерами вермахта. 4 июля Рим был занят союзниками. 6 июля началась высадка армий союзников на севере Франции, и наконец был открыт второй фронт в Европе.

А. Гитлер в свойственной ему манере потребовал немедленно ликвидировать плацдарм, захваченный союзными войсками. Но Рундштедт и Роммель были вынуждены признаться, что не в силах это сделать. Гитлер был потрясен свалившимся на него известием. Роммель предложил отвести войска, и прежде всего танки, за пределы огня корабельной артиллерии союзников с тем, чтобы организовать оборону в глубине и там попытаться остановить наступление противника. Но Гитлер не хотел ничего слушать. Вместо этого он разразился пространной речью о стойкости немецкого солдата и силе Фау-1, которые заставят англичан прекратить наступление во Франции.

Роммель, выслушав путаную речь фюрера, решился заговорить о необходимости переговоров с противником. Но Гитлер ответил, что переговоры вне компетенции фельдмаршала, основная задача которого – сражаться. Дальнейшие разговоры на эту тему становились бессмысленными.

В то время А. Гитлер находился в бункере в Маржевале. Немецкие войска вели обстрел территории Англии ракетами Фау-1. Одна из таких ракет, сбившись с курса, неожиданно 17 июня упала на бункер фюрера. И хотя жертв не было, но Гитлер поспешил оставить опасное место и переехал в свою резиденцию в Берхтесгаден.

23 июня началась Белорусская стратегическая наступательная операция на советско-германском фронте. Оборонявшиеся там немецкие войска группы армий «Центр» оказались на грани разгрома. 29 июня Рундштедт и Роммель вновь предложили фюреру реально оценить положение и попытаться положить конец войне. Но и на этот раз Гитлер остался глухим к словам своих фельдмаршалов. Два дня спустя Рундштедт был отстранен от командования Западным фронтом и заменен генерал-фельдмаршалом фон Клюге.

Имеются сведения, что причиной отставки Рундштедта стал его телефонный разговор с Кейтелем, который пытался узнать: что ему делать после того, как удар четырех танковых дивизий СС по войскам англичан не достиг намеченной цели?