В 1813 году Леопольд отправился в исследовательскую экспедицию в Италию. В ходе поездки он проводил геологические изыскания, результаты которых затем опубликовал. После возвращения в Германию Леопольд посетил Гейдельбергский университет, где ему предложили прочитать несколько лекций, после которых пригласили на должность приват-доцента (в немецкой образовательной системе приват-доцент выполнял некоторые функции преподавателя без соответствующей зарплаты, сохраняя право претендовать на звание профессора), а в 1814 году его приняли уже на должность полноценного доцента медицинского факультета Гейдельбергского университета, естественно — с оплатой. Новое назначение не охладило любви к химии и химическим исследованиям. Зимой 1814-15 годов в компании кузена, Кристиана Готлоба Гмелина, тоже химика (позднее он вписал себя в историю химии, в 1827 году первым описав красную окраску пламени солями лития), Леопольд посетил Париж. Там оба Гмелина работали в лаборатории Луи Николя Воклена и встречались с ведущими французскими химиками, включая Жозефа Гей-Люссака и Луи Тенара.
Весной 1815 года Леопольд вернулся в Гейдельберг уже на должность директора химического института, который в те времена ещё представлял собой подразделение медицинского факультета. Из-за того, что химический институт не являлся самостоятельным, его материально-техническая база не была идеальной для проведения химических исследований. Несмотря на это, в 1817 году Леопольд Гмелин отказался от предложения Берлинского университета занять профессорскую должность, освободившуюся после смерти Мартина Генриха Клапрота. Узнав о такой верности Гейдельбергу, администрация университета вскоре повысила Леопольда до полного профессора (одновременно химии и медицины) и выделила ассигнование на оборудование новой химической лаборатории. Однако вряд ли Леопольд рассчитывал, что отказ Берлину подстегнёт его карьеру в Гейдельберге, скорее всего желание остаться было связано с личными причинами.
В 1816 году Леопольд Гмелин женился на Луизе Морер, дочери местного священника. Желание Луизы быть ближе к семье, возможно, и повлияло на решение Гмелина остаться в Гейдельберге — несмотря на то, что предложение Берлинского университета было не единственным за его долгую научную карьеру, он отказался от всех (порою весьма выгодных предложений), и оставался работать в Гейдельберге до своей отставки в 1851 году. Гмелина высоко ценили и как преподавателя, и как удачливого исследователя. Ставший под его руководством самостоятельным подразделением химический факультет Гейдельбергского университета процветал, а на закате своей карьеры Леопольд Гмелин позаботился и о будущем факультета, передав пост декана факультета Роберту Бунзену. Умер Леопольд Гмелин после нескольких сердечных приступов в 1853 году.
Научные работы Леопольда Гмелина были посвящены многим областям естествознания — от изучения химии переваривания пищи до анализа редких минералов. Работая над законами постоянства состава и эквивалентов вещества, Гмелин предложил эквивалентные веса элементов, его учение об эквивалентах показалось современникам более логичным, чем представления Джона Дальтона об атомных весах. Среди представительного списка соединений, открытых Гмелиным, можно отметить таурин (C2H7NO3S) и гексацианоферрат(III) калия K3[Fe(CN)6] (он назвал это соединение «красной кровяной солью», какое-то время это вещество называли «солью Гмелина»). Гмелин является автором некоторых привычных нам терминов, наиболее известными из которых являются «кетон» и «сложный эфир». Все эти открытия, бесспорно, важны, но ни одно из открытий Гмелина не вызвало столь значительного изменения сознания химиков, как его «Руководство…».
Первое издание эпохального труда Гмелина растянулось на период с 1817 по 1819 годы, оно получило название «Руководство по теоретической химии» (Handbuch der theoretischen Chemie), впоследствии справочник стал называться «Руководство по неорганической химии». Два тома первого издания были посвящены неорганической химии, а в третьем томе рассматривались материалы из тогда ещё молодой органической химии. В третьем издании справочника (1827–1829) быстрое развитие органической химии привело к тому, что изначальное соотношение неорганика: органика 2:1 превратились в 1:2. Леопольд Гмелин участвовал в пересмотре и изменении содержания своего справочника до самой смерти.
За время профессиональной деятельности Гмелина в теоретических представлениях химии произошло несколько существенных изменений, ведущие учёные того времени часто критиковали идеи друг друга, очень часто отношение к идеям конкурента переносилось на самого конкурента. Язык и тон этих дискуссий, что устных, что письменных, сейчас скорее бы напомнил нам обсуждение какого-либо вопроса в социальных сетях, но не научную дискуссию на конференции или страницах научных журналов. Самым интересным оказалось то, что все химики девятнадцатого века, независимо от того, чью химическую теорию они в определённый момент поддерживали, восприняли справочник Гмелина как авторитетное руководство, равно полезное и для изучающих химию, и для уже сложившихся исследователей. Ключом к успеху «Руководства…» послужило несколько факторов.
Во-первых, «Руководство…» было всеобъемлющим для своего времени. В нём была предпринята попытка описать все известные на тот момент элементы и соединения, а также их наиболее важные свойства хотя бы в той степени, насколько это было возможно в ситуации, при которой скорость выхода из печати новых книг гораздо уступала скорости появления новых открытий. Во-вторых, Гмелин делал всё возможное, чтобы не оказаться втянутым в те самые нездоровые баталии, которыми были заняты его современники. В некрологе, уже упоминавшемся выше, говорится о том, что «…ему удалось смотреть на всё в высшей степени объективно, и, хотя, естественно, по существу каждого спора он обладал своим собственным мнением, но никогда его не выпячивал, в первую очередь — при составлении «Руководства…»». Возможно, что умение не усугублять ситуацию и не участвовать в слишком эмоциональных научных дискуссиях, решая вопросы не эмоциями, а логикой, пришло к Гмелину после истории с дуэлью, из-за которой он должен был на некоторое время покинуть Геттинген, ну а может быть на его характер повлияла женитьба, точнее семья жены — все же его тесть был пастором.
Третьим фактором, способствовавшим успеху «Руководства…» Гмелина, было то, что его труд был тщательно систематизирован, организация содержания была продумана на высшем уровне, и, самое главное, все факты и данные сопровождались ссылками на оригинальные источники. Основой для создания и модернизации «Руководства…» была постоянно пополнявшаяся Гмелиным картотека — отдалённый предшественник современной электронной базы данных Gmelin database. Применение картотеки для систематизации уже встречалось в естествознании: тот же Карл Линней, составляя основы классификации растений и животных, использовал карточки, но Гмелин не только первым применил этот подход в химии, но и сделал его максимально эффективным. По отзывам современников, Гмелину особо нравилось удалять из картотеки неправильные или дублирующиеся данные. Так, услышав в 1829 году о том, что два соединения, считавшиеся разными, оказались одним и тем же веществом, Фридрих Вёлер пошутил, что когда это дойдёт до Гмелина, тот, вероятно, воскликнет: «Gott sie Danke, dass es eine Säure weniger geibt» (Хвала Господу, ещё одной кислотой меньше!).