阿胶因始产自东阿而得名。中国现存最早的药物学专著《神农本草经》将阿胶列为“上品”，明代李时珍著《本草纲目》载：“阿胶本经上品。弘景曰：出东阿，故名阿胶”。据历史记载，李时珍生于1518年，卒于1593年。
在东阿当地还流传着一个古老的民谣，“小黑驴，白肚皮，粉鼻子粉眼粉蹄子，狮耳山上来啃草，浪溪河里去喝水，永济桥上遛三遭，魏家场里打个滚，至冬宰杀取其皮，制胶还得阴阳水。”
在制胶过程中，采用金锅银铲，烧桑木劈柴，熬七七四十九天，方能成胶。
据记载，东阿于北宋开宝二年（969年）开始出现阿胶
作坊
。
至清代，南北多家中医慕名而来，诊病兼营阿胶。当时，规模较大的制胶作坊有邓氏树德堂、涂氏怀德堂、任氏润惠堂、于氏天德堂、王氏景春堂、陈氏东岳衡药店等10余家。
清道光二十一年，东阿知县李闲书收集任氏润惠堂、树德堂、怀德堂等阿胶验方，集成阿胶验方集木版刊行。
清咸丰年间，皇帝的宠妃兰贵人叶赫那拉氏患有血症，即习惯性流产，经御医医治无效，服用了邓氏树德堂的阿胶，治好了血症，病愈喜得龙子，即后来的同治皇帝。咸丰帝非常高兴，特封此妃为懿贵妃，即后来的慈禧太后。咸丰帝同时赐给邓氏树德堂堂主邓发皇马褂、手折子。
清咸丰十一年（1861年），七月，山东巡抚谭廷襄在东阿大败捻军赵伦成后，专门派副都统到任氏润惠堂“采圣胶，十斤有余”。谭廷襄调任兵部侍郎、湖广总督后仍时常派亲眷到任氏润惠堂购买阿胶。
清同治十年（1871年），朝廷曾委派钦差前往东阿监制阿胶，此胶称为“九天贡胶”。
清光绪三十二年（1906年），曾为李鸿章参谋的何金龄任东阿知县期间，数次到任氏润惠堂求购阿胶进贡朝廷，何金龄任知县期间大力扶持东阿熬胶业。
清宣统二年（1910年），信春堂熬胶黑驴皮阿胶，此胶称为“十二天贡胶”。
民国初期，东阿县先后设立乾豫泰、怀仁堂、济盛斋和华丰东等新字号阿胶药店。
1952年，东阿县人民政府集结境内制胶艺人，建起全国第二家国营阿胶厂—— 山东东阿阿胶厂，1997年组建东阿阿胶集团。