1949年4月25日，中央军委决定，第十八、十九兵团调入第一野战军，向西北进军。5月14日，部队正在准备出动，毛泽东致电罗瑞卿:“部队开动时，请来中央一叙，部队工作找人代理。”6月初，周恩来找罗瑞卿谈话，要他出任即将成立的中央人民政府的公安部长(在政府建立之前归军委建制)。
1949年7月6日，中共中央革命军事委员会决定，在军事委员会下设立公安部，统辖各地公安机关的工作，并任命罗瑞卿为公安部部长。军委公安部是为筹建新的中央人民政府做准备而建立的。7月8日、7月9日，周恩来两次主持召开中共中央汇报会议，商讨情报、公安两部门的机构设置与领导人选等问题。
在此之前，领导各解放区公安机关工作的是中共中央社会部。面临全国解放的新形势，中共中央及中央军委于1949年8月9日给各解放区中央局及分局的电报指出:“为了分工，以便更好地建设我们的保卫与情报工作，决定取消中央社会部，另成立情报、公安两部（中央政府成立时，为政府的情报、公安两部）。”
1949年10月19日，中央人民政府委员会第三次会议决定:任命罗瑞卿为中央人民政府公安部长，杨奇清为副部长。中央人民政府命令发布后，中央军委公安部即行撤销，改名为中央人民政府公安部。
1949年11月1日，中央人民政府公安部宣告正式开始办公，启用印信。
1950年1月3日，遵照中共中央政治局通过的中央人民政府及政府机关建立党组的决定，公安部党委改为党组，由罗瑞卿、杨奇清、徐子荣、卓雄、雷荣天、邓少东、蔡顺礼组成，罗瑞卿任党组书记。
随着全国公安体制的统一，中央人民政府铁道部也于1950年3月召开第一次铁路公安会议，统一全国铁路公安体制，铁道部设公安局，铁路局设公安处，铁路分局设公安分处，铁路地区设公安段，三等以上车站设公安派出所、分驻所。交通、民航系统先后建立了保卫组织。1951年以后，交通、林业、民航等系统的公安机构也逐步建立起来。
在建设人民公安机关的同时，组建了人民公安部队。
2018年3月，根据第十三届全国人民代表大会第一次会议批准的国务院机构改革方案，将公安部的消防管理职责整合，组建中华人民共和国应急管理部；将中华人民共和国公安部的出入境管理、边防检查职责整合建立健全签证管理协调机制，组建中华人民共和国国家移民管理局，由中华人民共和国公安部管理。[1] [2]