他还在首都尼尼微的王宫内建立了一所大型图书馆，就是西亚第一座有系统性的图书馆－亚述巴尼拔图书馆。他派遣僧侣和书吏到各地蒐集苏美尔-巴比伦文献﹐所收泥板文献一度达2.5万块以上。这些泥板文献中﹐既有各种宗教经典﹑文学作品﹑天文观测记录﹑医学原典﹑数学﹑化学﹑植物学及其他科学著作﹐也有历史文献﹑条约﹑法律﹑命令﹑书信﹑王室的经济报表﹑房屋和沟渠建筑的报告﹐还有语法著作﹐词典以及类似百科全书的著作，为后人了解亚述帝国乃至整个亚述-巴比伦文明提供了钥匙。尤其珍贵的是，在文学类泥版中，这里藏有世界史上第一部伟大的英雄史诗《吉尔伽美什》，这是美索不达米亚文明所创造的最重要的作品之一。每块泥板上都有标志﹐标明它收藏的地方。泥板存放在许多陶罐之中﹐按不同主题放置在不同的收藏室。在收藏室的门口和附近的墙壁上还标有泥板的目录。从一部分作为目录的泥板磨损情况可以看出﹐当时这些泥板曾被频繁查阅过。亚述巴尼拔为他的图书馆的丰富收藏而感到自豪﹐在许多泥板书上刻上他的名字﹐有的还注明是他亲自修订的。泥版文书上往往还刻有“宇宙之王、亚述之王亚述巴尼拔”的字样。在一块泥版上，还刻着这样一些句子：
“我是亚述巴尼拔，伟大的国王、非凡的国王
宇宙之王、亚述之王、周边世界之王
王中之王，亚述的统帅、无敌的君主
支配着大海从高到低。”