早在建党初期，中国共产党就对建立党内巡视制度进行过探索。1922年7月,为加强中央的集中统一领导,党的二大通过的中国共产党章程,第一次明确规定:“中央执行委员会得随时派员到各处召集各种形式的临时会议,此项会议应以中央特派员为主席。”这是党的文件中最早规定设立中央分派各地指导工作的特派员，开始创立特派、巡视的工作方式。 1925年中央扩大会议通过的《组织问题决议案》,决定“增加中央特派巡行的指导员,使事实上能对于区及地方实行指导全部工作”。这是中央重视巡视工作的开端和标志。

　　1927年在武汉召开的党的五大，首次选举产生了以王荷波为主席的中央监察委员会，这是专门的党内监督机构，在党的建设史上具有里程碑意义。但由于当时复杂的历史条件及王荷波牺牲，中央监察委员会没有真正开展工作。1927年8月召开的八七会议，决定在建立北方局、南方局和长江局等中央派出机关的同时，派出巡视员到各级党组织指导工作，帮助各地恢复和整顿党组织。当年11月，中央临时政治局扩大会议决定，“应当开始建立各级党部的巡视指导制度”，并向各级党部派出巡视员。