1960年代後半から繰り返し志向されてきた社会党系の日本労働組合総評議会（総評＝社会党右派を中心に中間派・左派を含む）、民社党系の全日本労働総同盟（同盟）、全国産業別労働組合連合（新産別）、中間派だった中立労働組合連絡会議（中立労連）の労働4団体の統一を目指す「労働戦線統一」の動きは、1982年12月14日の全日本民間労働組合協議会（全民労協。初代議長は竪山利文・電機労連委員長）の結成により大きく進展した。
全民労協が1986年11月の第5回総会で翌年秋の連合体移行を確定したことを受け、まず同盟が1987年1月の第23回年次大会で解散方針を決定し、総評、中立労連、新産別の3団体も秋までに「連合」への合流を決定した。
1987年11月19日、同盟と中立労連が解散し、翌日11月20日に55産別、組合員539万人を集めた全日本民間労働組合連合会（全民労連、「連合」。 初代会長・竪山利文）が発足した。 新産別も1988年10月に解散して合流する。 総評は翌1989年9月の第81回定期大会で11月解散を最終的に確認した。
1989年11月21日、東京厚生年金会館で日本労働組合総連合会の結成大会を開き、初代会長に情報通信産業労働組合連合会（情報通信労連）委員長・山岸章を選出した。 総評系産別を加えて78産別、組合員約800万人を結集させ、労働4団体の統一を完成させた。なお、山岸は“労働戦線統一の功績”により2000年4月に勲一等瑞宝章を受章した。
連合を反共産主義・労使協調路線と批判する日本共産党系労組は、これに対抗して連合結成と同じ1989年11月21日に全国労働組合総連合（全労連）を、総評左派系（社会党左派系）の一部は12月9日に全国労働組合連絡協議会（全労協）を結成した。そのため、連合の結成は真の意味での「統一」とはいえないとする見方もある。