山东编织袋厂项俊波曾经参军入伍，先在成都军区担任司令部秘书，随着中国对越自卫反击战打响后，他随着部队奔赴老山前线参与作战，当上连队指导员，在一场战斗中，曾率领连队深入敌后，因此腿部负伤，成了战斗英雄。
此后，项俊波先后在中国人民大学、南开大学、北京大学学习。1993到1996年， 项俊波曾在南京审计学院任院长助理和副院长，当时这所高校为国家审计署直属，3年多后，他便被调任审计署核心部门——审计管理司任副司长，后又历任审计署京津冀特派办特派员、人事教育司司长等职，并于2002年 2月任国家审计署党组成员、副审计长。
值得一提的是，项俊波曾创作多部电视剧剧本，其中有不少都与审计工作相关，在1986到1987年，项俊波创作过国内第一部反映审计工作的多集电视剧《人民不会忘记》，该剧由项俊波本人担任制片和编剧。他还创作过《裂缝》《审计报告》等多部在中央电视台播出的电视剧，《裂缝》更是荣获1999 年全国电视连续剧“飞天奖”一等奖。
2004年7月，时任国家审计署副审计长的项俊波调任央行副行长。彼时，曾有业内人士分析称，在国家审计署副审计长任内，项俊波就主导企业和金融机构审计，他出任央行副行长一职，可以加强金融系统自身风险防范，防止银行业内部系统控制脆弱的问题向外蔓延。
任职央行副行长后，项俊波曾主管部门条法司、内审司、征信管理局、会计财务司和党委宣传部。
在央行任职期间，项俊波曾表示，中国金融存在着比较突出的三类金融风险：信用风险、操作风险、跨行业和跨市场风险。而这三大风险在很大程度上与法律制度缺失或不协调有关。因此，他认为现阶段金融立法是工作重点，要放在推动金融市场基础设施建设、规范金融创新法律关系、提高金融监督管理的协调性和有效性，以及充分利用市场自律监管上来。
当时， 央行自身正进行重大变革，成立第二总部，为获得最及时、准确的市场信息和数据，与市场操作层面贴近的央行部门，如央行征信局、金融稳定局的部分处室及国际业务部等，随央行第二总部南下，迁入上海，2005年8月10日，央行第二总部在上海挂牌，项俊波兼任主任。
2007年7月，项俊波“空降”农行担任党委书记兼行长。项俊波任职农行时，正值国有银行纷纷剥离不良资产，股改上市之时，农行是四大国有银行中最后一家进入股改程序的，也被公认为“包袱最重”，截至 2006年年末，农行不良贷款率为23.43%。
2010年7月15日，农行在上海证券交易所鸣锣，次日在香港联交所挂牌，实现A+H股上市，并创下当时全球最大规模IPO纪录。而在操盘农行上市一年多之后，项俊波便离开农行。
