1988年国务院再次进行了机构改革，这次改革的主要特点是首次提出了转变政府职能的要求，紧密地与经济体制改革结合起来。改革的重点是同经济体制改革关系极为密切的经济管理部门，特别是其中的专业管理部门和综合部门内的专业机构。把相同或相近业务的部门予以撤销，其业务由一个部门承担，综合部门一般不设对口专业机构，行业管理部门工作由主管部门承担。对政法、文教、社会事务等部门，不作大的变动，但都要按改革的要求，转变职能，下放权力，调整内部结构，精简富余人员。从1987年10月开始，按照各部门组织实施的定职能、定机构、定编制的“三定”要求，拟订了机构改革的实施方案，经过反复征求各方面的意见，并进行了反复修改，同年12月，经中央政治局第二次会议讨论原则同意。1988年3月，七届全国人大一次会议审议通过了国务院机构改革方案。

按照这次机构改革方案，国务院共撤销12个部委，具体是撤销原计委、经委、机械委、电子部、航天部、航空部、石油部、煤炭部、水电部、核工业部、城建部、劳动人事部。新组建9个部委，即国家计委、机械电子部、航天航空部、能源部、水利部、建设部、人事部、劳动部、物资部(同时撤销国家物资局)。将农牧渔业部更名为农业部。新华社改为国务院直属事业单位，不再列入国务院行政机构序列。通过这次改革，国务院部委由原来的45个减为41个。

在改革国务院部委的同时，对国务院直属机构、办事机构也进行了改革。国务院原直属机构22个，改革中撤销了2个，转为部委归口管理3个，改为办事机构1个，新组建1个，由其他机构改为国务院直属机构2个，改革后直属机构共有19个。国务院原有办事机构4个，改革中撤销1个，由直属机构改为办事机构1个，新组建3个，改革后办事机构为7个。除了国务院直属机构、办事机构外，还设有15个国家局由有关部委归口管理(包括原有的部委归口局)。另外，国务院非常设机构原有77个，经过清理，减为44个。

这次国务院机构改革，共用了9个月的时间。从1988年4月至6月，重点是抓了9个新组建部委的“三定”工作。国务院先对新组建的部委分别组成了筹备组，由其进一步研究新建部门的“三定”方案，经多次协调，反复修改，最后由总理办公会议逐个审定。7月，新组建的9个部委全部正常运转。从1988年6月份以后，“三定”工作扩展到其他各部门。各部门都在主要负责同志的主持下，组织了专门的工作班子，研究本部门的“三定”方案，经多次协调与修改，最后由总理办公会议和国家机构编制委员会会议逐个审定。至12月10日，国务院各部门的“三定”方案全部审定完毕，各部门相继按“三定”方案转入正常运转。1989年3月开始，组织进行了国务院各部门“三定”验收。截至1990年底，验收工作顺利完成。

由于1982年国务院机构改革实行的“定编不定员”政策，造成大量人员超编，实有人数约52300人。因此，1988年机构改革主要不是减少编制，而是精简人员。改革中精简以实有人员为基数，核定的编制数与改革前基本没变，为42000名，只是实行了定编、定岗、定员。改革后的精简统计数也是改革前的实有人数与改革后的编制之比，实有人数与核定的编制相比减少了10000多人。

另外，按照机构改革的统一部署，1988年各部门“三定”基本完成后，1989年一是进行了机关后勤改革，按照10％的比例，从核定的42000名机关行政编制中划出了后勤人员，单列并核定了4600余名机关后勤行政附属编制；二是按照量化的标准，单列并核定了用于离退休干部工作的行政附属编制近2200名；三是核定了“四委”单列编制602名（即为原国务院各部门已不在本部门任职而担任全国人大、全国政协、中央顾问委员会、中央纪委委员的同志，以及他们的秘书、司机核定的编制）。编制调整后，国务院行政编制和行政附属编制总计约45000名。