西罗马帝国在公元476年灭亡，虽然当时东罗马帝国也受到了蛮族和匈人的多次入侵，但总体上并没有影响到它立国的根基，所以它很快度过了这次危机。
而在公元6世纪中叶，在其雄主查士丁尼大帝在位期间，东罗马帝国曾达到巅峰，当时他们重新占据了意大利大部，西班牙南部以及北非大量沿海地区。但在进入公元7世纪之后，东罗马帝国在经历了一系列打击之后却进入了其长达数百年的衰落史。
首先是公元615年，来自亚洲的游牧族群阿瓦尔人攻入东罗马境内，很快攻击到了距离东罗马首都君士坦丁堡仅仅数公里的地方。而在此前后，东罗马在与萨珊波斯的战争中遭受了一系列打击，当时帝国最为富庶的省份叙利亚和埃及先后被萨珊波斯占领。此时西欧地区的日耳曼人也开始对东罗马展开反攻，东罗马在意大利和西班牙的大量领地也先后被西哥特人和伦巴底人占领。
公元626年，阿瓦尔人兵临君士坦丁堡，将东罗马帝国从全国收集到的20万磅黄金抢走。在公元630年前后，阿拉伯人又迅速崛起，并很快灭亡了萨珊波斯，将北非地区全部据为己有。在这种情况下，东罗马帝国意识到自己在希腊人以外恢复统治的可能已经不大，因此进行了一系列本土化改革，其中最为重要的一项改革是将国语从罗马帝国的国语拉丁语改为希腊语，同时东罗马皇帝不再使用罗马时期的君主称号“奥古斯都”，改用希腊语里的君主称号“巴西琉斯”。可以说在此之后，东罗马帝国虽然正式国名仍然维持了罗马帝国时期的国名，也就是“罗马人民与元老院”（SPQR），但实际上已经转变成了希腊人的民族国家。所以在很快西欧地区不再将其视为罗马帝国，转而以君士坦丁堡的旧称将其称为了拜占庭。
同时，东罗马帝国还对内政进行了彻底改革，将罗马帝国时期的行省制改成了塞马州制，建立了由军人将领统领的行政单位，各州长官则由皇帝直接任命。这些改革增加了希腊人地区的凝聚力，为东罗马帝国暂时稳固了局势。但同时，这些措施也无形中进一步降低了东罗马帝国在希腊人以外地区的号召力。公元751年，东罗马在意大利地区的统治核心拉文纳被日耳曼伦巴底人攻陷，东罗马自此失去了对罗马城的控制。
不过到了公元9世纪之后，东罗马帝国曾经迎来过一次中兴。
公元867年，东罗马帝国的马其顿王朝建立。建立马其顿王朝的人名叫巴西尔，但他其实也不是马其顿人，而是出生在当时东罗马版图之外的亚美尼亚。他的全家在幼年时都被东罗马的邻国保加利亚俘虏，之后他被发配到了马其顿地区做苦力。现代研究显示，这个巴西尔很可能并不是希腊人，而是斯拉夫人或是亚美尼亚人。
公元836年，他和几个同伴从马其顿逃到了东罗马境内的色雷斯地区，并开始为一些东罗马贵族服务。他从马夫做起，还曾经赢得过摔跤比赛的冠军。另外有一些记载显示，他因为相貌英俊，可能还成为过一些贵族的男宠。而在此期间，他得到了东罗马皇帝米海尔三世的信任，成为了宫廷侍卫长，之后地位也不断得到提升，最终在公元866年被米海尔三世立为了共治皇帝及继承人。
但在一年之后，巴西尔感觉自己有失宠的迹象，于是在9月23日夜发动政变，将米海尔三世杀死，自己成为了东罗马唯一的皇帝。此后他的王朝就被称为了马其顿王朝。而这个米海尔从流亡奴隶做到东罗马皇帝，也确实是有很强的能力。他主政东罗马之后，很快在巴尔干地区建立了新的塞马州，并向当地移民，强化了东罗马的国防实力。
而在他统治东罗马的将近20年时间里，东罗马在南北两线成功地反击了阿拉伯人和斯拉夫人，并重新占领了意大利地区部分领土。之后他的几代子孙继承了他的事业，继续为东罗马扩张了不少领土，不但占领了亚美尼亚、意大利南部、巴尔干地区、克里特岛、塞浦路斯、黎巴嫩乃至伊拉克部分地区，还在公元1018年将保加利亚第一帝国灭亡，使东罗马帝国进入了最后一个黄金时期。
公元1025年，东罗马皇帝巴西尔二世死后，东罗马皇族为了争权继承权陷入混乱之中。在这之后的30年时间里，东罗马一共换了十个君主，国力也出现了显著的衰落。
公元1054年，东罗马还和罗马教廷之间还发生决裂，造成了天主教与东正教的分野。而在两年之后，东罗马女皇狄奥多拉去世且无后，马其顿王朝灭亡。此后东罗马很快开启了进一步衰落乃至走向灭亡的过程。
公元1037年，来自东方的塞尔柱突厥人在伊朗东部的呼罗珊地区建立了塞尔柱帝国，之后很快向西方展开了扩张。公元1071年8月26日，塞尔柱和东罗马军队在今天土耳其东部的曼齐刻尔特爆发了一场大战。这场战役东罗马军队大约出动了4到7万人，塞尔柱军队则有两到3万人。虽然东罗马军队人数占优，但东罗马军队却两次发生内讧。首先是其雇佣的欧亚游牧族群库曼人骑兵在战场上临阵倒戈，投靠了塞尔柱军队。之后在东罗马皇帝罗曼努斯率领主力对塞尔柱军队发动进攻之时，负责指挥东罗马军后卫队的将领安德洛尼卡却宣布罗曼努斯已死，自己率军向首都撤退去争夺皇位。结果导致东罗马军瞬间崩溃，罗曼努斯四世被俘。
而在此之后的10年时间里，东罗马帝国竟然爆发了8场内战，这也使得东罗马的领土很快大幅缩水，其在意大利的领地全部丢失，在巴尔干的领地也大幅缩小。
安纳托利亚（今天土耳其境内）地区的大量领土也被塞尔柱帝国夺走。在此期间，在东罗马中兴过程中起到了重要作用的塞马州制度也逐渐衰落，东罗马帝国的兵源缺口越来越大。被迫越来越多的依赖外国雇佣军作战。
而在这种情况下，东罗马不得不开始寻求外援。公元1095年，东罗马派遣使者到意大利寻求罗马教廷的帮助。教廷虽然答应帮忙，却只是动员了一些平民组成了平民十字军前去为东罗马助阵。但这支军队其实跟土匪没有太大差别，他们到了东罗马领土上之后，不但没有帮上什么忙，而且还对巴尔干地区进行了疯狂劫掠，使东罗马的处境雪上加霜。而当这支平民十字军真正与塞尔柱军队接战之后却是一触即溃，很快被全歼。
之后，虽然罗马教廷正式派出的十字军很快发动了第一次十字军东征并取得成功，但东罗马却没有从中得到太大回报，其衰落趋势并没有得到延缓。公元1176年，东罗马皇帝曼努埃尔一世在位期间，曾经再次集结了一支大军，希望从当时占据了土耳其中部地区的罗姆苏丹国手中夺取其首都科尼亚，但其军队却在一座山谷中遭到罗姆军队的伏击，最终大败。在此之后，东罗马完全失去了争夺安纳托利亚的实力，同时也使东罗马过去在国际间建立的威名完全丧失。
不到30年之后，在公元1204年，由罗马教皇意诺增爵四世发起的第四次十字军东征却因为一个东罗马失势王子的介入给东罗马带来了灭顶之灾。当时，东罗马王子阿莱克修斯四世请求十字军去攻击东罗马，帮助自己的父亲夺回王位，并许诺事成之后给十字军20万银马克。
而当时十字军也正好出现经费短缺，所以答应了这笔买卖。结果十字军在公元1204年4月攻占了君士坦丁堡，之后将对其进行了疯狂洗劫和屠杀，从君士坦丁堡抢劫了总共价值90万银马克的财富。
而在此过程中，把十字军搬来的阿莱克修斯四世和他的父亲都先后死去，而十字军则顺势自己在东罗马故地建立了一个国家，名叫拉丁帝国。
所以可以说到此时，东罗马帝国就已经基本灭亡了。
不过当时东罗马帝国的一些残余势力逃到了今天土耳其境内的小亚细亚地区，并在此建立了几个小王国，包括尼西亚、特拉比松和伊庇鲁斯等。
而其中的尼西亚帝国在蛰伏57年之后终于复仇成功，将拉丁帝国灭亡，重建了东罗马帝国。而这个过程最终给东罗马和十字军造成了两败俱伤的结果。东罗马在经过灭国之痛之后元气大伤，成为了一个实力极为有限的小国。但东罗马在复国过程中却消耗了十字军大量人力财力，也让十字军实力大受影响，对十字军在公元1291年最终完全失败也起到了一定的助推作用。
在进入公元13世纪之后，重建的东罗马国力已经变得极为孱弱。曾经一度其陆军总兵力只剩下了6000人。而在这种情况下，东罗马帝国为了自保，甚至在公元13世纪下半叶多次与蒙古西征之后在东欧和西亚建立的金帐和伊儿两汗国和亲，以换得其军事保护。当时这两个汗国也确实曾几次出兵帮助东罗马击退了保加利亚等周边政权的进攻。
而在公元1299年，奥斯曼帝国建立。在随后的50年时间里，奥斯曼完全夺取了东罗马在小亚细亚地区的领地。
公元1380年，东罗马的色雷斯地区也被奥斯曼夺走，东罗马逐渐变成了一个只控制君士坦丁堡周边和一些爱琴海岛屿的城邦联盟。
公元1402年，奥斯曼苏丹巴耶济德一世已经集结大军准备灭亡东罗马帝国，但没想到半路杀出程咬金，奥斯曼帝国在当年春季突然遭到来自中亚的“世界征服者”帖木儿的入侵，结果巴耶济德一世仓促回师，却在安卡拉战役中被帖木儿击败并被俘。
此后奥斯曼帝国陷入多年内乱，使东罗马苟延残喘了几十年。
但在奥斯曼帝国恢复元气之后，东罗马还是没能逃脱宿命，最终在公元1453年5月30日被奥斯曼军队灭亡。