Борис Борисович Гребенщиков родился 27 ноября 1953 года в Ленинграде (ныне Санкт-Петербург). Его отец, Борис Александрович, был инженером, директором опытного завода Балтийского пароходства. Мать, Людмила Харитоновна, работала юрисконсультом Ленинградского дома моделей.

Заниматься гитарой Борис Гребенщиков начал еще учась в школе, в 1968 году. Первой заученной песней стала Ticket to Ride "Битлз". Свои собственные песни Бориc Гребенщиков первое время писал на английском языке, а затем стал сочинять на русском.

В 1971 году Гребенщиков поступил в Ленинградский государственный университет (ныне Санкт-Петербургский государственный университет), на факультет прикладной математики и процессов управления. Во время учебы в ЛГУ он в июле 1972 года вместе со своим школьным приятелем Анатолием Гуницким основал группу "Аквариум".

В 1973 году состоялся сценический дебют Гребенщикова — он выступил на фестивале в Юкках, где под акустическую гитару исполнил песни Кэта Стивенса.

В начале 1974 года, во время студенческих каникул, был записан первый альбом группы "Аквариум" под названием "Искушение Святого Аквариума". В течение последующих двух лет коллектив активно выступал и записывал свои песни.

В 1976 году Гребенщиков окончил университет, поступил в аспирантуру и начал работать в Научно-исследовательском институте комплексных социальных исследований (НИИКСИ) младшим научным сотрудником. Он продолжал писать песни, выступал с концертами и сотрудничал с экспериментальным студенческим театром ЛГУ. Основал самиздатовский журнал "Рокси".

В 1978 году вышел магнитоальбом Бориса Гребенщикова и Майка Науменко "Все братья — сестры". В 1980 году "Аквариум" выступил на рок-фестивале в Тбилиси, после чего популярность группы и ее лидера значительно выросла. Однако именно после этого концерта "Аквариум" был запрещен, а Гребенщикова исключили из комсомола и уволили с работы.

В 1981 году группа стала членом Ленинградского рок-клуба, принимала участие в первых пяти его фестивалях.

С 1982 года началась активная концертная деятельность коллектива, поездки в Москву, Архангельск, другие города. В этом же году Гребенщиков принял участие в продюсировании первого альбома группы "Кино" "45".

В конце 1980-х годов, после начала перестройки, "Аквариум" получил возможность давать большое количество концертов, выпускать альбомы. В 1987 году фирма грамзаписи "Мелодия" впервые выпустила альбом "Аквариума" "Равноденствие" в виде виниловой пластинки — он был раскуплен всего за несколько часов.

В начале 1990-х годов группа "Аквариум" на некоторое время прекратила свою деятельность. В это время Гребенщиков возглавил другую группу — "БГ-Бэнд". В 1993 году "Аквариум" воссоединился в обновленном составе, коллектив много выступал в странах СНГ и за рубежом.

В это время появились альбомы "Аквариума" "Любимые песни Рамзеса IV", "Кострома mon amour", "Навигатор", "Снежный лев". В 1997 году вышли диски "Гиперборея", а затем "Лилит". Последний был записан с западными музыкантами — группой The Band. Также Борис Гребенщиков обращался к творчеству других музыкантов — в 1994 году вышел диск песен Александра Вертинского в его исполнении, а в 1999 году — Булата Окуджавы. Вместе с тем были осуществлены и другие проекты Гребенщикова, например записи инструментальных альбомов, а также альбом "Прибежище" — тибетские мантры, записанные с Габриэлой Рот и группой The Mirrors, а в 2002 году — с ними же — альбом Bardo. В 2001 году был выпущен альбом песен на стихи Анатолия Гуницкого "Пятиугольный грех". В 2003 году "Аквариум" выпустил альбом "Песни рыбака", запись которого проходила в России и в Индии, с участием индийских музыкантов. В этом же году музыкант отметил свое пятидесятилетие большим концертом "Аквариума" в Государственном Кремлевском дворце.

22 мая 2005 года Борис Гребенщиков начал карьеру радиоведущего: на Радио России стала еженедельно выходить его авторская музыкальная программа "Аэростат".

В 2007 году состоялся концерт группы "Аквариум" в лондонском Альберт-холле (Royal Albert Hall). Мероприятие было организовано при поддержке фонда индийского философа, проповедника и музыканта Шри Чинмоя, духовного наставника Гребенщикова. В том же году музыкант устроил собственную выставку непрофессиональных фотографий родного города "Инфра Петербург".

В 2008 году Гребенщиков выступил с новым проектом Aquarium International, суть которого состояла в том, чтобы собирать на одной сцене с "Аквариумом" почти два десятка представителей разных стран, играющих на самых различных инструментах.

В 2009 году Гребенщиков и "Аквариум" одни из первых использовали в России модель "скачай и заплати, сколько считаешь справедливым", выложив свой новый альбом "Пушкинская, 10" на сайте Kroogi.ru.

В 2011 году "Аквариум" представил новый альбом "Архангельск". В 2012 году, в честь 40-летнего юбилея "Аквариума", группа выложила в сеть каталог из всех 29 "естественных" студийных альбомов коллектива.

В 2012 году Борис Гребенщиков и композитор Андрей Микита создали ораторию "Семь песен о Боге" для солистов, нескольких хоров (из более чем 100 человек) и симфонического оркестра. Ее премьера состоялась 20 ноября 2012 года в Большом зале Московской консерватории.

В марте 2013 года Гребенщиков выступил с заявлением о том, что группа "Аквариум" прекращает общение со СМИ и уходит в "партизаны". При этом коллектив сократит количество даваемых концертов, но продолжит работу в студийном формате.

На счету Бориса Гребенщикова более 30 альбомов, выпущенных в составе "Аквариума", сольные пластинки и участие в проектах друзей-музыкантов. Музыка Гребенщикова звучит в таких фильмах, как "Асса" (1987), "Город" (1989), "Дом под звездным небом" (1991), "Азазель" (2002) и многих других.

Музыкант нередко участвует в благотворительных концертах в помощь хосписам или бездомным людям.

Борис Гребенщиков является автором книги "Трамонтана", в которую вошли тексты песен, написанных в XXI веке, в том числе совсем новые, неопубликованные. Тексты к выпускам радиопрограммы "Аэростата" вошли в четырехтомную музыкальную авторскую энциклопедию Бориса Гребенщикова "Аэростат".

Гребенщиков был удостоен многих наград. Он награжден орденом "За заслуги перед Отечеством" IV степени (2003), является лауреатом премии "Триумф" (1998), Царскосельской художественной премии (2002), премии "Своя колея" имени Владимира Высоцкого (2004). В 2009 году Гребенщиков получил премию "Степной волк" за одну из книг из серии "Аэростат". В 2012 году музыкант стал обладателем премии журнала "Русский пионер" в номинации "Стихи XXI века. Поэзия эпохи www".

Гребенщиков женат третьим браком. В 1978 году он женился в первый раз на Наталье Козловской, которая работала инженером-экономистом. У них родилась дочь Алиса, впоследствии ставшая актрисой театра и кино. Брак продлился несколько лет. С 1980 года по 1989 год музыкант состоял в браке с Людмилой Гребенщиковой (Шурыгиной), в этом браке родился сын Глеб. Затем его супругой стала Ирина Гребенщикова (Титова). У них родилась дочь Василиса, двоих сыновей Ирины от предыдущего брака Гребенщиков усыновил.