竹下派時代
1985年、木曜クラブの領袖として影響力を保持していた田中に反旗を翻した竹下登、金丸信らと共に派内勉強会「創政会」を結成。のちに経世会(竹下派)として独立した。竹下派七奉行の一人に数えられ、竹下の総裁就任に奔走。日本皇民党事件の際には金丸とともに稲川会幹部の元に出向いている。竹下内閣の発足後、官房副長官に就任。この時期日米間の電気通信協議や建設協議を取りまとめて実績をあげた。
竹下派、とくに金丸の意向によって成立した第1次海部俊樹内閣では党幹事長に就任。金丸・竹下とともに、政権の実質的な実力者となり、ねじれ国会下で公明党など野党とのパイプを駆使して国会対策にあたった。リクルート事件後初の総選挙で苦戦が予想された第39回衆院選を、自由主義体制の維持を名目に経済団体連合会(経団連)傘下の企業から選挙資金300億円を集めて勝利。首相である海部をしのぐ権勢や集金力から「剛腕」と称された。
1990年(平成2年)、金丸を代表とする北朝鮮訪問団(金丸訪朝団)に参加する。
同年8月、湾岸戦争が勃発し、小沢はペルシャ湾に自衛隊を派遣することを模索した。「アジアへの配慮が必要だ」と反対する外務省や、ハト派である海部の慎重論を抑え、法案を提出させた(なお、この法案は野党の反対で廃案となり、後に国際連合平和維持活動等に対する協力に関する法律(PKO協力法)が成立)[10]。自衛隊派遣について国会で公明党の協力を得るため、東京都知事選挙で自民党東京都総支部連合会が推す現職の鈴木俊一に代わり、新人の磯村尚徳を擁立するも都連が鈴木を支援した事もあり敗北。なおこの都知事選公示直前に出馬に意欲的であったアントニオ猪木と会談し、出馬を断念させたが、多額の金銭が動いたと一部メディアに報じられた。1991年(平成3年)4月、責任を取り党幹事長を辞任したが、直後に経世会会長代行に就任し、名実とともに派閥のNo.2として、引き続き海部政権の実力者であり続けた。しかし、次第に金丸は小沢に派閥を譲ろうと企図するようになり、首相再登板を狙う竹下との確執を深める。この年の6月、狭心症で倒れて日本医大病院に入院、40日余りの療養生活を送った。
同年、政治改革法案が国会で廃案となったため、首相の海部が衆議院の解散総選挙をぶち上げたが、党内の反発を招き、海部は首相辞任に追い込まれた(海部おろし)。その際、金丸が小沢に対し後継首相となるよう命じ、金丸の意を受けた渡部恒三なども小沢を説得したが、当時49歳という年齢や心臓病を理由にこれを固辞したとされる。
10月10日、自由民主党総裁選挙での派閥が支持する候補者を決定するため、出馬表明していた宮沢、渡辺美智雄、三塚博と自身の個人事務所でそれぞれ面談した(いわゆる「小沢面接」。平野貞夫によれば、当日ホテルの会場が満室でどこも予約できず、推薦する側の小沢の側から訪問するのも筋が違うため、小沢の事務所で面談することになったという[11]。宮沢も後に『日本経済新聞』連載の「私の履歴書」の中で、「支持をこちらからお願いしているのだから、出向くのが筋であった」と回顧した)。しかし宮沢や渡辺のような当選回数・年齢も上の者(三塚は当選回数こそ小沢よりも一回少ないが、年齢は小沢より上だった)を自分の事務所に呼びつけたかのような振る舞いは傲慢であると批判され、今日に至るまで「経世会支配」「剛腕小沢」の象徴的シーンとして取り上げられている。
竹下派分裂、羽田派結成
1992年(平成4年)、東京佐川急便事件を巡り、金丸が世論から激しい批判を受け派閥会長を辞任、議員辞職した(東京佐川急便事件に関しては、小沢も1993年(平成5年)2月17日に証人喚問を受けている)。後継会長に小沢は金丸に近かった渡部恒三、奥田敬和らと共に羽田孜を擁立し、竹下直系の小渕恵三を推す橋本龍太郎、梶山静六らと対立。当初中立であった参院竹下派に竹下自らが関与して小渕支持を決定。この結果として後継会長は小渕に内定した。敗れた小沢は羽田、渡部、奥田らと改革フォーラム21(羽田派)を旗揚げし、派閥は分裂した。
宮沢喜一改造内閣における羽田派の閣僚ポストは、経済企画庁長官(船田元)と科学技術庁長官(中島衛)の2つだけと冷遇された。さらに党幹事長には派閥の後継会長を巡り激しい闘争を演じた小渕派の梶山が就任したことで、羽田派は反主流派に転落した。これに対し小沢は主流派を「守旧派」と、自らを「改革派」と呼び、持論であった政治改革の主張を全面に訴えた。
こうした中で小沢は、5月20日に、著書『日本改造計画』を発表した(実際に店頭に並んだのは6月下旬)。同書は政治家の著作としては異例の70万部を超える売上を記録し、1993年を代表するベストセラーになった。自らの政策・政見を広く国民に問うもので、小沢の理念を基に官僚や専門家を中心に政策としてまとめた。