奥斯纳布吕克的名称由来有两种解释，第一种解释是它来自低地德语中的Ossen（“牛”）和Brügge（“桥”），另一个解释是它来自哈瑟河的日耳曼名称。它最初是从一个集市发展起来的。约780年查理大帝在这里设立了一个教省，奥斯纳布吕克是其省会和主教驻地。据传804年查理大帝还在这里设立了一所高等中学（Gymnasium Carolinum，假如这个说法正确的话该高等中学（今天依然存在）是德国最古老的高等中学。但是有人怀疑这份建立文书是伪造的。在神圣罗马帝国内至1803年奥斯纳布吕克律属于奥斯纳布吕克主教领地。
从1561年至1639年是奥斯纳布吕克猎女巫的高潮时期。在哈马赫（Hammacher）任市长时（1565年至1588年）共有163名妇女因此被杀害，大多数被焚。在佩尔斯特（Pelster）任市长期内（1636年至1639年）有40名妇女被告女巫而死。总共有276名妇女和两名男士在这个过程中因巫术被杀。当时市议会以新教徒为主。一些市内的新教牧师因为反对猎女巫后来被逐。
1631年开办的大学于1633年又被当时统治的瑞典人关闭了。1974年奥斯纳布吕克大学重新开办。从1643年至1648年在奥斯纳布吕克和在明斯特进行了最后导致《威斯特伐利亚和约》的谈判。在这段时间里奥斯纳布吕克徒劳地试图获得帝国自由城市的地位，“谁的领土，谁的宗教 (cuius regio ius religio)”这个原则在奥斯纳布吕克拥有一个特例。按照1650年的条约规定奥斯纳布吕克主教领地的主教由天主教和新教主教交替担任，因此在奥斯纳布吕克统治者的宗教交替为天主教和新教，而当地居民的宗教信仰则不受统治者的信仰的影响。因此可以说奥斯纳布吕克主教领地是今天德国领土上最早拥有宗教自由的地区。
1803年神圣罗马帝国解散、所有宗教领地被取缔后奥斯纳布吕克主教领地被并入汉诺威选帝侯领地，同年被法国军队占领。1806年奥斯纳布吕克短时间属于普鲁士王国，1807年被并入新成立的威斯特法伦王国，1810年12月10日被纳入法兰西帝国。1815年它又被划给汉诺威。1866年普鲁士吞并汉诺威后1885年它成为普鲁士奥斯纳布吕克地区的首府。直到1977年在行政区划改革的过程中奥斯纳布吕克才丧失了这个地位。此外它还是奥斯纳布吕克县的县府。
在第二次世界大战中奥斯纳布吕克共受到79次空袭，其中最早的一次大规模空袭是1942年6月20日英国皇家空军进行的，当日向老城共投下9000枚燃烧弹。10月6日老城南区受到11000枚炸弹和燃烧弹的袭击。死亡人数最多的空袭是美军对申克尔的袭击，共死亡241人。1944年9月13日的袭击中老城区共收到2171枚炸弹和18.1万枚燃烧弹的袭击，由此导致的火风暴摧毁了大多数老建筑。1944年10月13日其余未受破坏的市区遭到了16000枚燃烧弹和2616枚爆炸弹的袭击。1945年3月25日，就在大战结束前不久老城区在此遭到袭击，使得整个老城区所剩无几。总的来说整个市区的被破坏度达65%，破坏最严重的是中世纪的老城，这里的破坏度达94%。战后荷兰打算吞并奥斯纳布吕克及其周围地区，但因为遭到美国和英国的反对而没有成功。
