葛西氏是桓武平氏的后代，秩父氏一族的丰岛氏流。高望王之子村冈五郎良文的孙子中村太郎将恒（常）讨取了武藏介藤原真枝立下了功勋，受封下总国葛西郡。

所谓葛西的名字的由来，一般认为是以下总国葛饰郡葛西庄为名，葛西庄是原伊势神宫领的一个被称为葛西御厨的人的领地。一说受封葛西庄的并非将恒，而是他的儿子武常。

武常的孙子康家，开始被称为丰岛氏，是丰岛氏的始祖。康家之子清光，其子清重使用葛西三郎的名号，是葛西氏的初代。

清重于治承四年（１１８０）与源赖朝的石桥山合战中战败逃往安房，后来又臣属于赖朝而获得不少战功。文治五年的奥州藤原氏进攻，清重在伊达郡阿津贺志山合战中作为先阵建立了武功，获得了葛西五郡、胆泽·江剌·磐井·气仙·牡鹿·本吉·六十六岛等从今宫城县北部到岩手县南部广泛的领土。后来清重的末裔又获得了邻接的登米·桃生郡，领土扩大到葛西七郡的三十万石。

之后，清重获得了陆奥国在住的御家人的奉行权“奥州总奉行”和平泉特别行政区的“检非违使职”的任命权。但是，“奥州总奉行”的实际效力并没有那么大。建久元年（1190），在平泉的清重的任务结束，伊泽家景补任陆奥留守的职务；同年６月发生了大河兼任之乱；同年１１月正式将权力移交给伊泽氏而回到了镰仓。

赖朝死后，清重作为幕府的宿老受到北条氏的重用：建保元年协助北条义时镇压了和田义盛之乱；承久之乱之际与大江广元等一起留守镰仓；元仁元年与小山结城氏一起协力镇压了伊贺光宗的叛乱。源氏灭亡后也作为侍所的重臣担任北条氏的军政要务。

葛西氏嫡流转移到奥州，是清重的曾孙清经时代。当时由于镰仓幕府的内部混乱，与北条氏系统的关系非常微妙，大约在正应～正和年间（镰仓末，１３００年代）考虑到自己的利益，清经将葛西氏嫡流的本处迁置到牡鹿郡的石卷，开始世代居住在那里并逐渐开始地方支配。

葛西氏的势力进入奥州五郡的同时，同族的千叶氏也开始进入。到建治二年（1276）、葛西太守清时的养子、千叶介赖胤之子胤信在十五岁元服时，改名清信，率领一族郎党数百人进入奥州。结果，葛西氏的家臣大多是由千叶氏分支出来的。同时，葛西氏开始分为江剌、柏山、大原等诸氏，许多家臣回去辅佐了宗家葛西氏。

与葛西氏一同从关东进入的还有与葛西氏对抗的熊谷氏、首藤山内氏等。而在镰仓幕府供职的、出过许多能吏的二阶堂氏却是葛西氏的家臣。

葛西氏的家臣团在南北朝时期和战国时代一直比较团结，但到了战国末期，由于葛西氏日益老朽化，有力家臣、一族与本家的抗争愈演愈烈，频繁发生内乱。到小田原之战，葛西氏参阵，战后收到改易的命令。

之后，丰臣秀吉对奥州大名进行改易，葛西氏失去领地，新的领主木村伊势守父子接手。但是由于木村氏的暴政，使原属于葛西、大崎的旧武士团相当不满，与之相对抗。在这场名为“葛西大崎一揆”的暴动中，多数的葛西氏遗臣参与其中，据说这次一揆是由伊达政宗煽动而引起的。

政宗掀起叛乱的目的，据说是为了重新得到原先领有的葛西大崎旧领。掀起叛乱后，伊达氏军团进行了总动员开始讨伐一揆。于春天开始对大崎领的宫崎城攻略，进而包围了登米郡的佐沼城，在一周之内落成，并完成了有名的佐沼城“ナデ斬り”讨取了二千五百余人。同年八月在桃生郡江糠塚山将大多数的一揆物头众讨灭。在伊达氏的这次谋略中，葛西氏的遗臣大多数死去了。

至此，葛西氏已经完全没落了，家臣团出于自保的考虑，开始另寻出路。葛西氏的旁系重俊出仕了伊达家，跟随者有很多，据传还有晴信之子信景。本家的柏山、江剌、长坂、浜田、大原氏都出仕了南部家。

栗原郡三迫的雄富泽幽斋寄身伊达家，天正十八年小田原起就担任了政宗的亲笔信的传递人。据说最早曾出仕南部家，在庆长六年的和贺兵乱时作为南部家的武将出阵，与伊达家刚勇的名将铃木将监重信在夏油川进行过一骑讨。