赵苍璧出生于1916年，陕西省清涧县玉家河镇赵家洼村人，出生于一个普通的农民家庭。早年时期，赵苍璧主要在村中私塾读书，他才思敏捷，读书成绩很好。稍微长大后，赵苍璧进入县城的第二高小继续学习，也是在第二高小读书期间，他接触到马克思主义，走上了革命的道路。

1935年10月，中央红军到达陕北之后，赵苍璧进入西北政治保卫局在瓦窑堡举办的保安人员培训班学习，从培训班毕业后，赵苍璧便留在了西北政治保卫局工作，成为保卫局的一名巡视员，自此之后，赵苍璧长期从事政治保卫工作，在隐蔽战线立下赫赫功劳。

1937年，抗日战争全面爆发后，全国各地的很多有志青年奔赴革命圣地延安，这些青年鱼龙混杂，有一部分也是国民党安插到延安的特务。那段时期，赵苍璧严格贯彻中央关于加强锄奸保卫工作的指示，坚决打击反动势力，为保卫陕甘宁边区政府做出了巨大的贡献。

值得一提的是，1940年，为了加强陕甘宁边区政府的保卫工作，赵苍璧还组织成立了便衣队，并担任了便衣队队长。便衣队的主要任务是侦破敌特组织，人员都是从部队或者地方抽调上来的，而且都从事过安保工作。

当时培养这么一支便衣队并不容易，虽然整个便衣队只有十几人，但所有工作几乎都是从无到有。不过，赵苍璧并没有灰心，没有教员，他就亲自示范；没有教材，他就亲自编写。在赵苍璧的带领下，便衣队迅速建立起来，在侦破敌特方面多次立功，是保卫陕甘宁边区政府的一支重要隐秘力量。

不管是抗日战争时期还是解放战争时期，赵苍璧长期从事政治保卫工作，积累了丰富的经验，1949年2月，北平和平解放后，赵苍璧还参与了接收北平公安局的相关工作。此后赵苍璧又参与接收了南京市公安局、重庆市公安局，在此期间，他多次侦破敌特策划的案件，巩固了新生的政权。

渡江战役之后，赵苍璧跟随第二野战军挺进西南，参与了解放西南的战斗。西南解放后，赵苍璧留在了西南局，1954年，大区撤销之后，赵苍璧留在四川省工作，担任了四川省公安厅厅长、四川省副省长等职务，致力于四川省的建设与发展。

1966年，“十年特殊时期”开始，伴随着这场特殊的运动，包括公安部在内，全国公安系统的很多干部受到迫害，这其中也包括赵苍璧。虽然身处逆境，但赵苍璧勇敢地同造反派作斗争，拒绝强加在自己身上的一切不实之词。造反派甚至把赵苍璧关押起来，但赵苍璧凭借顽强的意志坚持斗争，最终在1972年重新复出。

复出之后，赵苍璧担任了四川省委书记（当时设有第一书记）等职务，致力于秩序的整顿工作。粉碎“四人帮”后，赵苍璧受到重用，1977年，赵苍璧担任了公安部部长。任职期间，赵苍璧严格落实了中央的干部政策，重新组建了公安部的各级领导班子，并且参与组建了武警部队，迅速开创了公安工作的新局面。

另外，赵苍璧还非常注重人才培养，他恢复公安院校，大力加强公安机关的组织建设和业务建设，为改革开放时期培养了很多优秀的公安人才，促进了公安事业的长远发展。1983年，赵苍璧卸任公安部部长，此后他过起了离休的生活。离休之后，赵苍璧主要生活在北京，于1993年因病去世，享年77岁。