Ансамбль был собран в 1983 году в Ленинграде Николаем Фоменко, Максимом Леонидовым и Дмитрием Рубиным, выпускниками Ленинградского государственного института театра, музыки и кинематографии. 20 апреля 1983 года состоялась первая репетиция группы в составе, ставшим впоследствии «классическим»: Максим Леонидов, Николай Фоменко, Андрей Заблудовский и Алексей Мурашов. Название произошло от одной из песен The Beatles — «Do You Want to Know a Secret?».

Весной 1984 года музыканты записали магнитофонный альбом Ты и я (звукорежиссёром выступил бывший барабанщик «Автоматических удовлетворителей» Игорь «Панкер» Гудков) чуть позже вступили в Ленинградский рок-клуб и в мае стали лауреатами его II фестиваля, исполнив свои первые хиты «Тысяча пластинок» и «Она не понимает», а также кавер-версию песни Майка Науменко «Мажорный рок-н-ролл». 25 июля 1985 года «Секрет» триумфально выступил в Ленинградском Дворце Молодёжи, в 1987—1989 гг. участвовал в программах «Утренняя почта» и «Музыкальный ринг», объехал с концертами весь Советский Союз, гастролировал с группой «Машина времени»[1].

В 1990 году из «Секрета» уходит Максим Леонидов, и до 1996 года группа выступает в составе трио. После ухода Николая Фоменко Андрей Заблудовский и Алексей Мурашов организуют коллектив «Секрет-5», который в 1998 году преобразуется в «Секрет-99» под руководством Заблудовского.

За долгую историю своего существования участники группы «Секрет» не только выпустили несколько пластинок, в том числе дважды платиновый альбом Секрет, но и организовали в 1989 году рок-театр-студию «Секрет», где поставили спектакль «Король рок-н-ролла» об Элвисе Пресли, приняли участие в десятках телепрограмм, часть из которых сами и придумали.
Концерт «Секрета» в БКЗ «Октябрьский» 30 октября 2007 года

В 1997 году «Секрет» сыграл в оригинальном составе пять концертов в Театре Эстрады в Москве и мюзик-холле Санкт-Петербурга, в 1999 году объединился для выступления на стадионе «Петровский» в Санкт-Петербурге, в 2003 году с успехом провел серию выступлений в честь 20-летия группы в Кремле и БКЗ «Октябрьский» (специально к юбилею Леонидов написал новую песню «Ничего не исчезает»), после чего был выпущен трибьют-альбом Секретные материалы, состоящий из кавер-версий, выполненных ведущими рок-исполнителями страны[2]. В рамках тура состоялись концерты в Санкт-Петербурге и Киеве. 30 октября 2007 года «Секрет» вновь объединился, дав концерт в питерском БКЗ «Октябрьский». «Секретовцам» в этом концерте помогала группа Максима Леонидова Hippoband. Обещанные концерты в честь 25-летия группы в 2008 году так и не состоялись