哈尔滨工业大学的外语教育最早可追溯到1920年建校之初，学校曾先后采用俄语（中东铁路工业学校）和日语作为授课语言。1952年俄语教研室正式成立，承担全校的俄语教学工作，下设的英语教研组，承担全校的英语教学工作。60年代至70年代，日语、德语和法语教研组先后成立。1982年，学校批准成立哈工大外语部。1986年，获得外国语言学及应用语言学（俄语）硕士学位授予权。1988年，外语部更名为哈尔滨工业大学外语系。1996年，获批外国语言学及应用语言学（英语）硕士学位授予权。2000年，哈尔滨工业大学与原哈尔滨建筑大学合并，组建了新的“哈尔滨工业大学外语系”。1985年开始招收研究生班，1988年招收本科生，2010年，学院获得外国语言文学一级学科授予权和翻译专业硕士学位授予权。
2006年6月，哈尔滨工业大学外国语学院成立。目前，学院下设英语系、俄语系、日语系、大学英语第一教学部、大学英语第二教学部、大学英语第三教学部、研究生英语教学部七个教学单位，并设有跨文化研究中心、加拿大研究所、俄语语言与文化研究中心和翻译教学研究中心。
学院现有外国语言文学一级学科硕士点，下设英语语言文学、俄语语言文学、外国语言学及应用语言学、和翻译专业四个硕士点，在跨文化交际、语言学、外语教学、英语文学、俄罗斯文学、翻译理论与实践（包括英俄日三个语种，日语暂停招生）等方面形成了稳定的研究方向和学术梯队，创建了良好的学术氛围和研究条件。
学院现有教职员工168人，其中在岗教师151人；省级教学名师2人，校级教学名师3人，教学带头人8人；教授25人，副教授83人（讲师41，助教2）；具有博士学位教师45人（硕士93，学士13）；硕士生导师34人。外国语学院每年聘请外籍语言教师16名左右。
外国语学院每年招收本科生100名左右，研究生40名左右。学院坚持把“培养具有优秀的道德品质、深厚的文化底蕴、开阔的国际视野和跨文化交际能力的高素质复合型创新人才”作为教育目标，以适应时代和社会发展。学院与多个国家和地区的高校建立了合作关系，为越来越多的学生创造出国深造的机会。毕业生具备在外事、经贸、文化、新闻出版、教育、科研等部门独立从事翻译、教学、研究及管理工作的能力。
