哈尔滨工业大学档案馆成立于 1991年3月。1997年通过国家档案局档案工作目标一级考评，1998年成立了学校档案工作委员会，2000年与哈尔滨建筑大学档案馆合并。2023年8月挂靠学校办公室。目前档案馆在编专职档案人员15人，全部具有大专以上学位，其中7人具有硕士学位，6人具有副高级以上专业技术职称。

档案馆下设4个科室，文书档案室、科技档案室、信息技术室、综合办公室。档案馆现有馆藏20万卷（件），包括党群、行政、教学、科研、基建、招投标、设备、会计、出版、特型、人物、班级、口述档案13大类。

档案馆目前馆舍位于明德楼8至11层，其中11层为办公区，其余为库房区，面积2933.1平方米。库房配有高压细水雾自动灭火系统、恒温恒湿自动控制系统、防盗报警控制系统等档案保管安全保护设施。

档案馆于1991年开始档案的计算机管理研究与实践，自主开发了综合档案信息管理系统、成绩单翻译系统、扫描数字档案查询利用软件、校园网信息归档管理软件、档案馆网站等；2004年开展了馆藏档案数字化工作，完成了毕业生成绩单、硕士学位档案、基建图纸、奖状及大部分党群、行政等类别档案的数字化工作。2016年“数字档案馆建设”获得学校校园信息化工程立项，目前一期建设已通过验收，二期正在建设中。

档案馆既是学校档案的行政管理机构，又是集中统一永久保存和提供利用学校档案为学校乃至社会服务的科学文化事业机构，担负着全校的档案行政和业务管理工作。由于哈工大的一校三区办学模式，威海校区、深圳校区专门设立综合档案分室，负责监督指导本单位各基层部门的档案工作，收集和管理本单位各项工作中形成的档案材料，根据规定定期将对学校具有永久保存价值的档案材料移交进学校档案馆。

档案馆本着全心全意为学校工作服务，为全校师生员工服务的宗旨，积极配合学校固定资产验收、实验室评估、项目审计、保密认证等各项工作，指导相应档案管理工作、提供档案凭据，为学校教学科研工作提供参考资料、为个人提供学历、工资、成绩等证明材料，并结合馆藏积极举办档案展览，对学生和广大教职员工进行爱国、爱校和精神文明等方面的教育，达到管理育人、服务育人的目的。

此外，档案馆还承担了许多社会工作，作为“工信部部属高校档案协作组组长单位”、“黑龙江省高校档案学会理事长单位”和“黑龙江省档案学会在哈大专院校协作一组组长单位”组织了大量的活动，受到了各方面的广泛赞誉。

档案馆成立三十余年，在学校领导的亲切关怀下，在学校各部门的大力支持下，在档案馆全体同志的共同努力下不断发展壮大，诸多方面都取得了骄人成绩，先后被评为“全国档案工作优秀集体”、“黑龙江省教育档案工作先进集体”、“黑龙江省机关档案工作先进集体”、“黑龙江省档案工作先进集体”、“黑龙江省文书立卷工作先进集体”、“黑龙江省档案学会工作先进集体”等光荣称号。