主要还是那些奉为经典的文集。如：上古神话传说中有些成语，如精卫填海，女娲补天等；先秦诸子散文中出现大量成语。尤其是《论语》《孟子》《老子》等句子简短，表意丰富，富含哲理，其中一些就被固定为成语，如祸起萧墙，浩然正气，；《庄子》《韩非子》里大量的寓言故事，提炼出的成语，如运斤成风，东施效颦，守株待兔等；《诗经》被人们口口传诵，经典句子也凝固成成语。如“桃之夭夭”（后演化成“逃之夭夭”），夙兴夜寐，辗转反侧，求之不得，等等；
后世诗歌也有一些流传甚广的成语：折戟沉沙，沉舟侧畔千帆过，上穷碧落下黄泉，此时无声胜有声。文集中像欧阳修与苏轼都有名句演化成成语的，醉翁之意不在酒，清风徐来，如怨如慕，如泣如诉。
还有一部分是外国寓言故事中出现的，如火中取栗等。