改革开放之初，干部队伍青黄不接的现象十分严重。作为党的第二代中央领导集体的重要成员，陈云此时的一大贡献，就是和邓小平一起，积极倡导成千上万地提拔中青年干部。同时，他又反复强调，要坚决清理“三种人”，纯洁党的干部队伍。

　　“三种人”是指在“文化大革命”中追随林彪、江青反革命集团造反起家的人、帮派思想严重的人、打砸抢分子。他们在“文革”中拉帮结派，造反夺权，组织武斗，诬陷迫害干部和人民群众。改革开放初期，这批人中许多人还很年轻，有知识有专业，又很会看风向，若不掌握政治标准和不严格考察历史表现，那么在大量提拔中青年干部的情况下就很可能让这些人混进来。因此，陈云从一开始就强调，对“三种人”一个也不能提拔。

　　1981年7月2日，他在省、自治区、直辖市党委书记座谈会的讲话中指出：“闹派性的骨干分子，打砸抢分子，一个也不能提拔到领导岗位上来。我说一个也不能。”“当时闹派性的、‘造反’的人很多，许多是随大流的，但里头的骨干分子不能提到领导岗位上来，一个也不能提拔，手不能软了。”为何不能提拔？陈云解释说，尽管这些人现在表现好甚至“蛮好”，但那只是他们要爬上来的需要。还因为一批老同志还在，“但是，到了气候适宜的时候，党内有什么风浪的时候，这些人就会变成为能量很大的兴风作浪的分子。有一个，有两个，就可以串联，兴风作浪。他们说，没有把这些老家伙整倒、整死，现在还在台上，当时整死就好了。”“因为时局变化的时候，他们就可以变成能量很大的兴风作浪的分子。”陈云主张严肃对待的同时又提出“可以给他一般的工作做。”

　　陈云的这个讲话传达下去后，引起党内外很大反响，大家表示热烈拥护。邓小平也非常赞成。1982年1月13日，他在中央政治局讨论中央机构精简问题会议上讲话说：“人一定要选好。还是老话，要坚决贯彻陈云同志讲的几条，几种人不能放进去啊！”但也有些领导同志，对陈云的意见不大以为然，说对“文革”的那些事情要“俱往矣”，不必再深究了。陈云听后说，不行，我是俱在矣。即这些人都在。我们还是要注意这个问题，不要被他们的一时假象所迷惑。

　　已混进党政机关的“三种人”怎么办？这是陈云关注的另一个重要问题。他几次提醒时任中央纪委副书记王鹤寿：“要特别注意至今还在台上的林彪、江青两个反革命集团的帮派人物。”“真正的危险已经不在于(林彪、江青两个集团中)现在讨论判刑或者要开除党籍的那些人，真正的危险是那些至今还在台上的林彪、‘四人帮’的帮派人物。”他对有些地区和部门仍在重用“三种人”，始终保持高度警惕。1982年1月18日，他在中央组织部送来的材料上批示：“一、出重要，进更重要。二、进的人，必须不让‘三种人’进。”7月30日，他在中央政治局扩大会议上讲话时又强调，在提拔中青年干部时，必须对“三种人”一个也不能提拔。已经提拔了的，必须坚决把他们撤下来。

　　陈云对“三种人”的警惕，是有历史根源的。除出于对理论上的深刻认识外，还鉴于对历史经验尤其是“文革”中反面教训的总结。1981年5月8日，他在讲到提拔培养中青年干部是当务之急时就曾提到：“‘文革’中提拔过一些‘头上长角、身上长刺’的青年人。当时提拔这样的青年人到高级领导岗位的实践已经证明，这是党的一个痛苦的教训。”在1981年7月2日省、自治区、直辖市党委书记座谈会上，他在讲到“三种人”一个也不能提拔时问：“王洪文讲什么？”邓小平插话说：“1975年他到上海、杭州，第一句话就说，十年后再看。这句话可触动了我们，引起了我们的注意。”他接话说：“所以，对这种人，一个也不能提拔到领导岗位上来。但是可以给他们一般的工作，给饭吃嘛。”

　　在党的十二大召开前夕，陈云向秘书交代，他在大会发言中别的都不讲，就讲两句话，一句是必须成千上万地提拔中青年干部，不能只提拔几十个、几百个；另一句是“文革”期间的“三种人”一个也不能提拔，已经提拔的必须从领导班子中清除出去。1982年9月6日，他在十二大上发言谈到不能提拔“三种人”时说：“因为这‘三种人’如果进到领导班子中，若干年后，到了气候适宜的时候，他们就会跳出来兴风作浪，再次为害国家，为害人民。”他在十二大的这篇发言总共21个自然段2000多字，却先后12次被掌声所打断。可见，他的意见切中要害，充分反映了全党的意志。