В начале XVII века вспыхнула новая война с Турцией. Граница Османской империи проходила посередине Венгрии, и здесь всегда было неспокойно (как уже упоминалось, в боях против турок в 1562 году погиб вблизи Мохача чешский и венгерский король Людовик Ягеллонский, после его смерти оба престола занял австрийский эрцгерцог Фердинанд Габсбург, дед Рудольфа II). Венгрия и стала главной ареной сражений. Счастье попеременно улыбалось обеим сторонам. Армия Рудольфа II взяла крепости Дьёр и Эстергом, отбила у врага Пешт, однако Буда осталась в руках османов. Казалось бы, начало исполняться одно из желаний Рудольфа II — мечта стать великим христианским завоевателем. Именно к этому периоду относится гравюра Рудольфа работы Саделера, изображающая его как триумфатора, и его бюст в панцире работы Адриана де Вреиса. Но когда Рудольф покорил Трансильванию, он решил провести насильственную католизацию, чего он до сих пор не делал, вызывая тем самым недовольство Испании и папской курии. В возвращенных провинциях и в старой части Венгрии и Трансильвании, где теперь было немало протестантов-лютеран, Рудольф запретил любое некатолическое вероисповедание.
Претворить приказ в жизнь было поручено генералу Бельхиосу, военачальнику перед лицом неприятельских армий весьма неудачливому, зато большому специалисту по части подавления и принуждения гражданского населения. Результат не заставил себя долго ждать — началось восстание под руководством венгерского дворянина Иштвана Бочкаи. К тому же венгерская шляхта снова разделилась на два лагеря — сторонников и противников императора, что было вызвано не в последнюю очередь суровой антипротестантской политикой имперского правительства.
Мятежники провозгласили Иштвана Бочкаи венгерским государем. Восстание охватило всю Венгрию, а вслед за этим началось новое наступление турок. Когда, наконец, Бочкаи ворвался в Моравию, Рудольф II был поставлен перед необходимостью подписать мирный договор. Сложилось, по сути дела, патовое положение.
Император не хотел никого слышать. В этот период у Рудольфа уже возобладали мизантропические настроения. Избегая принятия каких-либо решений, он редко встречался даже с императорскими и земскими сановниками, не доверяя им. Посредниками между Рудольфом и правительством стали его… камердинеры. Знаком их достоинства (и власти) была золотая цепочка, на которой висел символический ключ от императорских комнат. Наиболее известным из камердинеров был упомянутый выше Филипп Ланг, взяточничество и нечистоплотность которого в делах в значительной мере способствовали непопулярности правительства Рудольфа II.
Вести переговоры о мире с венгерскими повстанцами и турками Рудольфу не хотелось. И он поручил это дело своему брату Маттиасу. Большей ошибки король не мог сделать. Если недоверие к людям у Рудольфа уже тогда носило характер мании преследования, то в отношении эрцгерцога Маттиаса оно было полностью оправданным. Этот Габсбург отличался большим честолюбием, ни в коей мере не соответствующим его способностям. Маттиас был самым честолюбивым из сыновей Максимилиана II. По завещанию отца все наследство досталось старшему — Рудольфу, и Маттиас долгое время добивался у брата какой-нибудь значительной должности. В 1578 году он даже пустился на авантюру, бежав в Нидерланды, где сторонники независимости подняли восстание против испанского владычества. Генеральные штаты — сословное собрание Нидерландов — провозгласили молодого Габсбурга штатгальтером (высшим должностным лицом). Однако лишенный политических дарований эрцгерцог стал игрушкой в руках противоборствующих группировок и через три года бесславно вернулся в Вену, где выслушал от брата-императора немало гневных упреков. Отношения Маттиаса с Рудольфом II с той поры были испорчены. Тем не менее в конце 90-х годов XVI столетия император назначил брата наместником в Австрии и несколько раз поручал ему командование войсками, сражавшимися против турок. Лавров на этом поприще Маттиас, впрочем, тоже не сыскал. Большинство историков считает Маттиаса одним из наименее одаренных Габсбургов. Некоторые исследователи полагают, впрочем, что Маттиас был скорее фигурой трагической. Обладая определенными способностями и большим честолюбием, он умело плел интриги и в конце концов добился вожделенной власти, однако впоследствии оказался слишком слабым для того, чтобы противостоять могущественным религиозно-политическим группировкам и предотвратить их столкновение, переросшее впоследствии во всеевропейскую войну. Маттиасу удалось найти в лице венского епископа Мельхиора Клесла умного советника, который, в ущерб Рудольфу, помог ему подняться очень высоко.
Венский мир с венгерскими повстанцами и Турцией (1606) означал потерю всех прежних завоеваний и признание религиозной свободы в венгерской части монархии. Венское соглашение с венгерскими повстанцами гарантировало дворянам и горожанам Венгрии, а также пограничной страже, охранявшей рубежи габсбургских земель от турок, свободу вероисповедания. Были подтверждены основные привилегии венгерского дворянства, обещано расширение прав королевского совета и восстановление в Венгрии должности канцлера. Трансильванское княжество признавалось независимым. Таким образом, Венгрия получила особый статус в рамках империи Габсбургов — и, хотя этот статус в XVII столетии неоднократно нарушался, прецедент был создан. Отныне Венгрия, точнее, дворянство как ведущий в политическом отношении слой венгерского общества, имела юридически закрепленное признание собственной особости. Кроме того, к венгерским дворянам присоединились австрийские и даже моравские. Эта австро-венгеро-моравская сословная конфедерация, возглавляемая Маттиасом, представляла собой уступку основным принципам габсбургской политики: использовать абсолютную власть монарха для борьбы против антикатолической оппозиции. Маттиас стал венгерским королем и, за исключением центральной части монархии, т. е. Чешского королевства, поднял всю империю против Рудольфа. Маттиас двигался с войсками на Прагу. Но тут (1608) происходит нечто почти невероятное. Чешские, силезские и лужицкие подданные встали на сторону Рудольфа. Похоже, что чешские сословия приняли за оскорбление, что с ними никто предварительно не посоветовался: они считали себя важнейшим политическим звеном в габсбургской монархии.
Сыграл здесь свою роль и тот факт, что к конфедерации присоединились также моравские сословия. Поэтому и не нашла отклика пламенная речь моравского гетмана Карела из Жеротина, приехавшего на заседание чешского сейма с целью призвать чешские сословия присоединиться к оппозиции против Рудольфа. Когда же Маттиас подошел с войсками к Праге, чехи сумели с оружием в руках постоять за своего короля…
Последовавший за этим Либеньский мир стал, однако, для Рудольфа катастрофой. От его империи ему остались только земли королевства Чешского без Моравии и императорский титул. Остальная часть габсбургской монархии перешла во власть Маттиаса как венгерского короля и признанного наследника императорского престола. Помимо того, Рудольф вынужден был подписать в 1609 году указ о свободе вероисповедания в Чешском королевстве, ставший вознаграждением чешским протестантам за их верность Рудольфу в его борьбе с Маттиасом. Этот указ вошел в историю под названием «Грамота Его Величества Рудольфа».
Начиная с этой минуты, Рудольф думает только о мщении: он любой ценой хочет отомстить братупредателю и «неблагодарным» чешским протестантам, принудившим его издать грамоту. Он ищет и находит поддержку у своего двоюродного брата Леопольда, епископа Пассау. Этот безответственный и авантюрный служитель церкви, мечтающий стать наследником императора, набирает войско в десять тысяч человек самых различных национальностей под предлогом военной операции на территории монархии, где тогда разгорелся спор о наследстве после смерти Юлишско-Клевского герцога. Однако на самом деле войско вторгается в начале 1611 года в Чехию и с грабежами и насилием движется к Праге, несмотря на протесты чешского сейма.