1949年生於當時的北平（現北京）。在少年時期，他是一名紅衛兵。他對文革有疑慮，在1969年到1980作為一名工人接受了「再教育」。他畢業於北京四中。1969年當建築工人，後作過翻譯，並短期在《新觀察》雜誌作過編輯。1970年開始寫作，1978年與芒克等人創辦《今天》雜誌。

1989年4月26日《人民日報》發表社論將學潮定性為動亂，20萬學生進入天安門廣場以示抗議。當日晚，北島與150名學者連署請願信送交全國人大，聲援學生，但未獲接收。北島因在八九學潮中的參與角色，事後其人不再見容於中國政府。

1989年移居國外，曾一度旅居瑞典等七個國家，他在世界上多個國家進行創作。1990年在北島的主持下，《今天》文學雜誌在挪威復刊，至今仍在世界各地發行，其網絡版和論壇也享譽世界各地漢語文學圈。1994年曾經返回中國，在北京入境時被扣留，遣送回美國，曾任教於加利福尼亞大學戴維斯分校，還曾是史丹福大學、加利福尼亞大學伯克萊分校、香港中文大學客座教授。另外，他還曾以訪問學者的身份在杜倫大學中文系擔任講師。在紐約居住期間，曾在紐約州立大學石溪分校英文系教授詩歌創作。

2003年1月11日，他還去北京304醫院看望癱瘓在床的父親，父子倆都知道是最後一次見面。第二天，北島乘機再次離開中國。2007年，北島收到香港中文大學的聘書。8月，北島正式搬到香港，與其家人團聚，結束其近20年的歐美各國漂泊式生活。

2011年8月8日，北島獲准入境中國，參加青海湖國際詩歌節並接受了新華社的專訪。2013年10月30日，「時間的玫瑰——北島詩歌之夜」在香港中文大學的邵逸夫堂舉行。2014年10月17日，北島闊別45年重回北京四中，並表明希望能回北京四中開課。2018年5月24日，北島的繪畫個展在巴黎地平線畫廊開幕，同時推出展覽同名畫冊《此刻·北島》。