Рудольф I не был самым выдающимся из римскогерманских императоров и королей. Тем не менее о его правлении часто вспоминали с теплотой. В средневековой хронике Элленгарда говорится, что «при Рудольфе во всех частях Германии царил такой мир, какого она раньше не знала». Мастер интриг и компромиссов, искушенный политик, Рудольф умел смотреть в лицо опасности и стойко переносить испытания. Он укрепил расшатавшееся здание империи и, главное, заложил основу будущего могущества Габсбургов, сделав их одними из вершителей судеб Германии и Европы. О том, как оценивали роль Рудольфа I последующие поколения, свидетельствует замечание Наполеона, говорившего о себе: «Я — Рудольф Габсбург своей династии».
Несмотря на противодействие курфюрстов, старшему сыну Рудольфа, Альбрехту, в конце концов удалось заполучить германскую корону. Этот воинственный человек, чьим девизом было Fugam victoria nescit («Победе чужды отступления»), предпочитал не развязывать, а разрубать гордиевы узлы политических интриг феодальной эпохи. В 1298 году в битве при Гелльхайме Альбрехт разгромил своего соперника, тогдашнего короля Адольфа фон Нассау, и вынудил курфюрстов избрать себя новым германским монархом. Деятельный Альбрехт заметно усилил позиции своего рода в Австрии, где Габсбургов до сих пор воспринимали как чужаков, и попытался закрепить за своим потомством Чехию, где в 1306 году пресекся род Пржемысла Отакара. Чешская знать не горела желанием видеть корону святого Вацлава на голове кого-либо из Габсбургов, и начался долгий конфликт. Собирая войска для очередного похода на Чехию, король Альбрехт в начале мая 1308-го был убит в своих родовых владениях группой заговорщиков во главе с собственным племянником, восемнадцатилетним Иоганном. Иоганн был сыном младшего брата Альбрехта Рудольфа, умершего молодым. Он родился через несколько месяцев после смерти отца, и, согласно тогдашнему семейному праву, Альбрехт стал опекуном племянника (отсюда прозвище Иоганна — Parricida, Отцеубийца, поскольку с юридической точки зрения убитый Альбрехт был ему отцом). Занятый войнами и политикой, король, впрочем, не слишком заботился об Иоганне, который с юных лет чувствовал себя ущемленным. Он добивался от дяди хотя бы захудалого княжества в лен, но не получил ничего.
В 1306 году юноше была нанесена новая обида: после того как в Чехии пресеклась королевская династия, о кандидатуре Иоганна на чешский трон никто и не заикнулся, хотя он был племянником Пржемысла Отакара II по материнской линии и имел определенные права на корону. Терпение молодого человека лопнуло. Он вступил в контакт с представителями мятежных швейцарских кантонов и другими врагами германского короля. Сложился заговор, результатом которого стало убийство Альбрехта. Реакция современников на это событие была весьма противоречивой — от проклятий в адрес подлых убийц до нескрываемой радости по поводу смерти слишком уж энергичного и властолюбивого монарха.
Иоганну Отцеубийце удалось скрыться, но судьба не была благосклонна к нему. Новый король, Генрих VII Люксембург, предал Иоганна проклятию и отдал приказ о его розыске. Где и как прошли последние годы жизни злосчастного отцеубийцы, точно не известно. Для Габсбургов он стал едва ли не самой темной фигурой в истории рода, поскольку открытый бунт против главы семьи, а тем более убийство последнего, были для этой династии делом исключительным, практически невозможным.
Смерть Альбрехта I имела негативные последствия для могущества Габсбургов. Реализовать свою мечту о создании единого мощного королевства с крепкой наследственной властью Альбрехт не успел. После смерти короля ни одному из его сыновей не удалось добиться римско-германской короны: курфюрсты слишком опасались дальнейшего усиления Габсбургов. Династия оказалась если не отброшена на вторые роли (после Рудольфа I и Альбрехта I это было уже невозможно), то по крайней мере вновь стала лишь одним из нескольких могущественных родов, боровшихся за власть и доминирование в Центральной Европе. Кроме того, владения Габсбургов на юго-западе Германии пришли в упадок, что способствовало концентрации усилий рода на укреплении своих позиций в Австрии, которая теперь уже окончательно стала главной опорой династии.
После смерти Альбрехта I его сыновья, австрийские герцоги Фридрих Красивый и Леопольд, пытались бороться за германскую корону, но неудачно: от нее Габсбургов оттеснили вначале герцоги Люксембурга, а затем баварская династия Виттельсбахов, глава которой Людвиг IV в 1322 году разбил Фридриха и Леопольда в битве у Мюлльдорфа. Выбор Альбрехтом I имен для своих сыновей не случаен: Фридрихами и Леопольдами были многие Бабенберги, и, называя собственных потомков в честь представителей первого австрийского герцогского рода, Габсбург хотел символически породниться с Австрией, завоеванной его отцом.
В 1330 году, после смерти невезучего и довольно бесцветного Фридриха Красивого, власть в Австрии и Штирии перешла к следующему из сыновей короля Альбрехта — Альбрехту II, вошедшему в историю под двумя прозвищами — Хромой и Мудрый, оба из которых были вполне заслуженны. Хромота Альбрехта была вызвана сильнейшим полиартритом, ставшим, очевидно, следствием какого-то инфекционного заболевания. Что же до мудрости, то о ней свидетельствовала не только стойкость и самоирония, с которыми Альбрехт переносил свой мучительный недуг (временами он вообще не мог передвигаться самостоятельно), но и политика герцога, превратившего Австрию из набора феодальных ленов в единое и достаточно мощное государство. Альбрехт II унаследовал земли Габсбургов после смерти старшего брата и первое время правил вместе с младшим братом Оттоном, который сначала вытребовал у старших братьев долю доходов с австрийских земель, а в 1330 году также был провозглашен герцогом Австрии.
Еще в 1324-м Альбрехт женился на Иоганне, дочери последнего графа Пфирта Ульриха III, таким образом присоединив к владениям Габсбургов еще одну область в Эльзасе.
В 1335 году умер последний представитель Горицко-Тирольской династии Генрих Хорутанский. Согласно заключенному в 1282 году соглашению между Габсбургами и Горицко-Тирольским домом все владения последнего должны были отойти Габсбургам. Альбрехт II немедленно оккупировал Каринтию и Крайну, однако в Тироле столкнулся с сопротивлением соседней Баварии, также претендовавшей на наследие Генриха Хорутанского. Согласно австро-баварскому договору 1335 года Каринтия и Южный Тироль отходили к Австрии, а северный Тироль — к Баварии. Но против раздела своей страны выступили сами тирольцы. Вспыхнуло восстание с требованием восстановления на престоле законной наследницы Маргариты, единственной дочери Генриха Хорутанского. Австрийцы и баварцы были вынуждены покинуть страну и признать Маргариту правительницей Тироля.
Альбрехт II отличался умом и большой работоспособностью. Несмотря на физический недостаток, он непрестанно объезжал свои владения и входил во все мелочи управления. Много внимания герцог уделял упорядочению государственной системы своих владений. Для Штирии и Каринтии он разработал и утвердил основные законы, остававшиеся в силе до падения монархии Габсбургов, в том числе штирийскую «Горную книгу». Только благодаря активности Альбрехта II Австрия благополучно пережила все напасти, пришедшиеся на то время: нашествие саранчи в 1338 году, несколько наводнений в 1340-х годах, эпидемия чумы 1348–1349 годов.
