“义愤填膺”是“义愤”及“填膺”二语组成。“义愤”源于《后汉书逸民列传序》，《后汉书》中的纪、列传为南朝宋范晔所撰。逸民，指节行超逸，遁世隐居的人，而〈逸民列传〉就是记述东汉的这些隐逸之士，〈逸民列传序〉是作者说明为这些人立传的原由。
汉朝衰微，王莽趁机夺取王位，当时士人内心都充满了义愤，看见传统文化遭到如此破坏，许多人都相继弃官隐居，不再出来为国效力。后来，汉光武帝虽一意招纳隐士，他们都不愿意再出仕。到东汉末年，君王仁德渐衰，小人当道，隐士更是耻于与之同列。所以，他们这种高尚的德行是值得立传的。
“填膺”则源于唐朝高适〈饯宋八充彭中丞判官之岭南〉诗，是边塞诗人高适为朋友前往岭南赴任饯别而作。诗中高适回顾友人之前的怀才不遇，为他感到委屈不平，气愤填满胸中；如今友人有机会为官，不仅为之扬眉吐气，也殷盼他能建功立业；对友人必须到岭南就任，除叮咛在异地应注意事项，也充满了不舍之情。
后来，“义愤”、“气填膺”就被浓缩合用为“义愤填膺”这句成语，指心胸充满了因正义而激发的愤怒。