В 1945 г. Джон Колтрейн был призван на флот и играл на тенор-саксофоне в оркестре ВМФ на Гавайях. Именно в этом оркестре музыканта называли Трейн (сокращенный вариант фамилии Колтрейн), впоследствии Джона будут называть так коллеги-музыканты. После демобилизации Колтрейн снова продолжил учебу в классе Майка Гуэрры, а затем поступил в студию Граноффа, которая считалась одной их крупнейших музыкальных школ США. За четыре обязательных года обучения Джон, по словам своего наставника Денниса Сандоле, изучил все, что можно было бы изучить только за восемь лет обучения. Но время Колтрейна было как будто сжато, и он был исключительно одарен. В Филадельфии было много оркестров, в которых работали замечательные музыканты: саксофонисты Бенни Голсон, Билл Баррон и Джимми Хит, пианисты Рэй Брайант и Рэд Гарланд, барабанщики Филли Джо Джонс и Спекс Райт, а также совсем молодые, но очень перспективные джазмены — трубач Ли Морган, пианисты Маккой Тайнер и Кенни Баррон. Какое-то время Джон играл с оркестрами негритянского ритм-энд-блюза, затем (до ноября 1948 г.) в биг-бэнде саксофониста Джимми Хита, который так же, как и Колтрейн, был поклонником боперов. Однажды во время гастролей в Лос-Анджелесе, Колтрейну посчастливилось впервые играть на джеме с Чарли Паркером. Диззи Гиллеспи и Чарли Паркер были для молодого Колтрейна в ту пору джазменами высшего порядка, музыка и исполнительское мастерство которых «сразили наповал» Джона и побудили изучать музыку.
Джазовая жизнь в Филадельфии была оживленной, но таила в себе много опасностей для неопытного молодого человека. Не обремененный ни семьей, ни чьей-то опекой, Джон, как многие джазмены, восхищенные игрой своего кумира Чарли Паркера, стремился подражать ему во всем: много пить, курить и употреблять наркотики. Многих зависимость от героина погубила, многие музыканты этого поколения умерли молодыми. Колтрейн не раз пытался избавиться от пагубной привычки, понимая, что наркотическая зависимость тормозит его профессиональный рост, что попусту тратятся огромные деньги не на поддержание здоровья, а на его разрушение. Джон сам не раз сокрушался о том, сколько денег он тратил на наркотики! Обычно наркоманы превращаются в бессердечных существ, озабоченных только поиском «дозы». Но даже в это нелегкое время Джон, как вспоминают знавшие его музыканты, всегда оставался спокойным мягким человеком, каким он был всю жизнь.
Колтрейн ставил перед собой задачу — добиться собственного звучания на тенор-саксофоне. Но в начале своей карьеры он изучал игру всех выдающихся саксофонистов: Лестера Янга, Коулмена Хокинса, Бена Уэбстера, Декстера Гордона. Более всего Джону нравился звук саксофона Сонни Ститта (1924—1982), одного из ведущих саксофонистов-новаторов 1950—1960-х гг. Импровизации Ститта отличались необычной симметрией, что было нетипично для раннего бибопа.
Большим событием в жизни Колтрейна было приглашение в биг-бэнд Диззи Гиллеспи. Это произошло осенью 1949 г. В оркестре Гиллеспи Джон играл пьесы, оказавшие влияние на его собственные композиции, которые он напишет в будущем. Диззи увлекался в ту пору латиноамериканской музыкой, что стимулировало интерес Колтрейна к расширению джазовых границ уже тогда, в конце 1940-х гг. Саксофонист Джимми Хит (род. 1926), игравший в ту пору у Диззи, а затем ставший одним из выдающихся исполнителей хард-бопа, называл бэнд-лидера «самым доступным гением». Гиллеспи был чрезвычайно щедрым учителем, у которого можно было многому научиться, многое почерпнуть ищущим музыкантам.
В середине 1950 г. У оркестра Гиллеспи начались финансовые трудности, как и у многих больших оркестров того времени. Даже знаменитый Каунт Бэйси работал не с биг-бэндом, а с малым составом. Диззи Гиллеспи организовал септет, в который вошел и Джон Колтрейн. Вот тут-то и начались проблемы с алкоголиками-наркоманами. Диззи раньше и не подозревал, что в его большом оркестре семь человек колются. Но, «застукав» однажды музыканта со шприцем, Диззи решил навсегда избавиться от «паршивых овец» в стаде. Колтрейн к этому времени редко употреблял героин, но пил изрядно. И хотя руководитель нового комбо был настроен решительно, Джону каким-то образом удалось уговорить Диззи не увольнять его.
Знаменательным для Колтрейна было выступление секстета Гиллеспи, записанное в нью-йоркском клубе «Birdland» в январе 1951 г. В композиции пианиста Билли Тэйлора (1921—2010) «Good Groove» звучало соло на тенор-саксофоне Джона Колтрейна. Это была первая запись великого саксофониста. Работа в комбо Диззи Гиллеспи, конечно, оказала большое влияние на музыкальное развитие Джона Колтрейна, но тогда у Диззи, он еще не понимал, что следует искать свой стиль в музыке. Позднее Колтрейн вспоминал: «Я играл клише и модные темы, чтобы играть вместе с парнями, которые знали их. Еще раньше, когда я впервые услышал Берда, я хотел играть точно как он… чтобы он полностью поглотил меня. Но в глубине души я на самом деле хотел быть самим собой»
[39].
В течение четырех лет, с 1951 по 1955 г., Колтрейн работал в различных коллективах на правах сайдмена, т.е. рядового оркестранта. Его ценили как музыканта, но репутация наркомана и, следовательно, ненадежного человека Джону очень вредила. Так, выдающийся альт-саксофонист Джонни Ходжес, временно покинувший оркестр Дюка Эллингтона и организовавший свой септет, узнав о пристрастии Колтрейна к наркотикам, уволил его из оркестра. Ходжес очень ценил Колтрейна как музыканта, но не мог себе позволить держать наркомана в оркестре.
В сентябре 1955 г. произошло событие, которое определило дальнейшую судьбу музыканта. Провидение свело двух гениев Майлза Дэвиса и Джона Колтрейна. Случилось это после успешного выступления Дэвиса на Ньюпортском джазовом фестивале в июле 1955 г., когда известный трубач решил организовать новый квинтет. В него вошли барабанщик Филли Джо Джонс (1923—1985), пианист Рэд Гарленд (1923—1984) и контрабасист Пол Чеймберс (1935—1969). Не хватало только саксофониста. Дэвис решил пригласить Сонни Роллинза. Но Сонни отказался, объяснив свое решение тем, что решил отдохнуть какое-то время от музыки и заодно избавиться от наркотической зависимости. Тогда Филли Джо Джонс посоветовал пригласить Колтрейна.
Когда состоялось их первое совместное выступление в Балтиморе, в клубе «Лас Вегас», Майлз, обладавший безупречным чутьем на таланты, понял, что с Колтрейном можно играть просто невероятную музыку. И вскоре квинтет Майлза Дэвиса с участием Джона Колтрейна становится легендарным. Для становления Колтрейна как музыканта работа в ансамбле Майлза Дэвиса имела огромное значение, т.к. именно в это время Джон становится широко известным и популярным тенор-сак- софонистом. Хотя некоторые критики скептически относились к игре саксофониста, обвиняя его в отсутствии оригинальности, Майлз Дэвис прекрасно понимал, какое сокровище он приобрел. В этот период творчества Колтрейн много записывался с разными составами музыкантов. Были записаны пластинки «The New Miles Davis Quintet», «Round about Midnight», «Relaxin’ with Miles Davis Quintet», «Workin’», «Miles Davis Plays Jazz Classics».