Тех, кто решил отказаться от национал-социалистских идеалов после первых крупных военных поражений, привлекли к заговору как полезных помощников в расколе солидарности нацистов и контроле за некоторыми формированиями берлинской полиции в день выступления. Эти ренегаты переходили в тайную оппозицию не по идеологическим мотивам, а из-за опасений за собственную безопасность или неприкрашенного авантюризма. Среди заметных представителей этой группы были Артур Небе, начальник криминальной полиции Берлина, Ганс Бернд Гизевиус и Йенс Йессен, профессор экономики из Берлинского университета.
Составить некое подобие оппозиции гитлеровскому режиму неизбежно должны были остатки левого крыла социал-демократов и коммунистов. Сознавая стойкость этой оппозиции, нацисты сосредоточили на ней свои главные усилия. Распустив все левые партии, разгромив профсоюзы, запретив забастовки, арестовав почти всех выдающихся социал-демократов и профсоюзных лидеров, не выпуская из-под неусыпного наблюдения гестапо все рабочие организации, нацисты с успехом свели левую оппозицию к местным и заводским ячейкам, совершенно не связанным между собой. Левая оппозиция потеряла возможность планировать какие-либо независимые акции и сосредоточила все свои усилия на выживании. У нее осталась одна цель: постараться дожить до тех времен, когда какая-то внутренняя или внешняя сила ослабит фашистскую диктатуру настолько, что можно будет возобновить социал-демократическую и коммунистическую деятельность.
Состав и цели консервативной группы формировали гражданские чиновники, бывшие нацисты и армейские офицеры, не склонные привлекать сподвижников с левыми взглядами. Однако, сознавая, что такое могущественное полицейское государство, как гитлеровский рейх, не допустит общенационального восстания, некоторые из наиболее консервативных представителей левого крыла решили присоединиться к заговору, который (из-за участия в нем военных) казался им единственной силой, способной справиться с эсэсовскими армиями. Лидеры социалистов стали принимать активное участие в заговоре только с 1942 года, когда согласились сотрудничать такие люди, как Вильгельм Лойшнер, бывший министр внутренних дел земли Гессен.
Многие лидеры социал-демократов не желали входить в такую активную оппозицию Гитлеру, поскольку не считали целесообразной замену национал-социалистского правительства консервативным военным правительством. Никто не горел желанием привлекать к заговору коммунистов, а они не стремились его поддержать. Попытка заручиться поддержкой коммунистов в июне и июле 1944 года закончилась арестом социалистических и коммунистических лидеров, участвовавших в переговорах. Многие представители левого крыла, знавшие о заговоре, предпочитали оставаться в стороне, поскольку не доверяли лидерам заговорщиков не меньше, чем ненавидели Гитлера. Они приготовились выйти на национальную арену и провести независимые политические действия, когда мятеж будет завершен.
Церковь находилась в идеологическом конфликте с нацистским тоталитаризмом с самого воцарения нового порядка, поэтому неудивительно, что некоторые священнослужители вошли в круг заговорщиков, замышлявших убийство Гитлера 20 июля. Католический кардинал и архиепископ Мюнхена Фаульхабер, католический епископ Берлина Прейсинг, протестантский епископ Берлина Дибелиус, епископ Штутгарта Вурм сочувствовали антинацистскому движению, хотя не все они были информированы о плане покушения 20 июля.
Интеллектуальную оппозицию представляли ученые, невосприимчивые к псевдофилософским обличительным речам Геббельса и Розенберга и сохранившиеся в университетских кругах. Среди арестованных за антинацистские письма были историк Герхард Риттер, экономисты Константин фон Дитце и Адольф Лампе – профессора Фрайбургского университета в Бадене. Как и священнослужители, с которыми они тесно сотрудничали, интеллектуалы представляли этическое и нравственное сопротивление нацистскому режиму, чего не хватало большинству других групп – участниц заговора.
Еще одной группой, не входящей ни в одну упомянутую категорию, был кружок Крейсау, участники которого встречались в поместье графа Хельмута фон Мольтке (правнучатого племянника немецкого военного героя 1871 года) в Крейсау в Силезии. Главным образом социалистическая, с налетом прусского мистицизма и христианства, эта группа включала и большое число консерваторов: госслужащих, военных и священников. Руководителями кружка Крейсау были доктор Карл Мирендорф и доктор Юлиус Лебер, бывшие социал-демократические лидеры догитлеровского рейхстага. В кружок входили и молодые аристократы: сам Мольтке, граф Клаус Шенк фон Штауффенберг, который впоследствии совершил покушение, граф Петер Йорк фон Вартенбург; Адам фон Тротт цу Зольц из дипломатического ведомства; иезуит отец Алоис Делп и протестантский священник Ойген Герстенмайер; социалисты Теодор Хаубах и Адольф Рейхвейн.
В 1942-м и 1943 годах члены кружка Крейсау встречались несколько раз и обсуждали главным образом вопрос, какой быть посленацистской Германии. Из-за различий во взглядах они не могли найти конкретные решения и рассматривали такие расплывчатые философские концепции, как нравственное и религиозное возрождение, отказ от государственного контроля над церковью и образованием. Заговорщики не могли прийти к согласию и по поводу использования насилия в освобождении от Гитлера. Сам Мольтке пылко возражал против убийства как политического метода; его философия ненасилия мешала членам кружка тесно сотрудничать с соратниками Герделера и генерал-полковника Бека, которые вынужденно признали, что убийство Гитлера – непременное условие свержения нацистской тирании. Но социалистические принципы не устраивали Герделера, сподвижниками которого были такие промышленные магнаты, как Вильгельм цур Ниден, такие крупные землевладельцы, как граф Генрих фон Лендорф-Штайнер. В конце концов с большим трудом Герделер и левые достигли компромисса: левые согласились предоставить Герделеру пост канцлера при условии, что он сразу же после захвата власти примет программу национализации народного хозяйства и сформирует правительство провосточной ориентации. Это было главной причиной разногласий между правыми и левыми партиями заговорщиков и плохим предзнаменованием для будущего правительства, но, несмотря на глубокие различия, заговорщиков объединяло желание уничтожить национал-социалистское правительство Адольфа Гитлера.
Единственной группой сопротивления, без которой об успехе заговора нечего было и думать, являлся офицерский корпус немецкой армии. Только офицерский корпус обладал необходимыми средствами для захвата власти, а потому был необходимой движущей силой заговора. Постоянные посягательства Гитлера на политическую независимость армии оставили раны, не залеченные даже военными победами. За увольнениями фон Фрича и фон Бломберга, позволившими Гитлеру узурпировать контроль над вермахтом, последовали протесты Генерального штаба против планов оккупации Чехословакии. Этот инцидент повлек за собой отставку генерал-полковника Людвига Бека, начальника Генерального штаба армии, и практически полное подавление Гитлером офицерского корпуса. Однако в отличие от фон Фрича и фон Бломберга Бек не желал мириться с потерей армией независимости. Еще в 1938 году он начал сплачивать вокруг себя старших офицеров, недовольных нацистским режимом и желавших оказать ему активное сопротивление. Именно с Беком заговорщики 20 июля связывали свои надежды и честолюбивые мечты.