北京大学上海校友会成立于1984年5月，首任会长为潘维民校友（时任上海市宣传部部长），第二任会长为王达校友（时任中国科学院上海分院生化所科研处长），2005年至2011年5月第三任会长为祝林森校友（时任上海华东政法学院党委书记），2011年5月经换届选举，北京大学许智宏前校长担任北大上海校友会第四届会长。
北京大学上海校友会的主要任务为：
（一）加强本市校友间的联繫，促进团结和合作；
（二）开展科技、文化、经济交流，举办联谊活动及母校校庆活动；
（三）增进校友和母校的联繫，为母校的发展做出贡献；
（四）联络和接待国内外校友，增进友谊，为上海经济和社会的发展，为社会主义现代化建设和祖国统一大业做出贡献。