George Washington Parke Custis was de kleinzoon van Martha Washington, en groeide op bij Martha en George Washington. Hij kreeg het land dat nu Arlington National Cemetery is in 1802. Hij begon met de bouw van Arlington House, waar hij woonde met zijn vrouw Mary Lee Fitzhugh Custis. Het land en het huis werden geschonken aan hun enige kind dat volwassen werd, Mary Anna Custis Lee. Zij was getrouwd met Robert E. Lee, afgestudeerd aan West Point en officier van het Amerikaanse leger. Toen Fort Sumter aan het begin van de Amerikaanse Burgeroorlog tot overgave werd gedwongen, vroeg president Abraham Lincoln Lee als generaal van het federale leger. Lee antwoordde niet meteen, maar wachtte af of zijn thuisstaat Virginia de Unie zou verlaten.
Lee verliet het federale leger toen Virginia zei dat het de Verenigde Staten verliet. Hij besloot dat hij niet tegen zijn thuisstaat kon vechten. Hij werd de leider van de strijdkrachten van het Gemenebest Virginia. Vervolgens werd hij commandant van het leger van Noord-Virginia. Lee was een groot bevelhebber en won verschillende veldslagen tegen de troepen van de Unie. De meeste officieren van de Unie dachten dat Lee zijn beloften aan de Unie had gebroken omdat hij ervoor koos tegen hen te vechten. Een deel van Arlington werd afgenomen van de familie Lee en werd een begraafplaats. Daar liggen vooral doden uit de Unie begraven.
Vóór de Burgeroorlog hadden de Verenigde Staten geen grote begraafplaatsen waar alleen militairen begraven werden. Belangrijke generaals werden begraven op de Congressional Cemetery met andere belangrijke leiders. Amerikaanse militaire begraafplaatsen waren nodig aan verre grenzen en in de buurt van veldslagen en ziekenhuizen waar veel soldaten stierven. Toen dode soldaten uit de Burgeroorlog de begraafplaatsen in de buurt van Washington D.C. vulden, stelde kwartiermeester-generaal Montgomery C. Meigs in 1864 voor om 200 acres (81 hectare) van het landgoed van de familie Robert E. Lee in Arlington in te richten als begraafplaats.
Tijdens de Burgeroorlog bedacht men trucs om Amerikanen die aan de andere kant van de oorlog vochten gevangen te nemen of het leven zuur te maken. De regering stelde belastingen vast op eigendommen en stond erop dat de eigenaars persoonlijk verschenen om ze te betalen. Als de plantage-eigenaar niet kwam, verkocht de regering het land. De regering kocht Arlington bij de belastingverkoop in 1864 voor 26.800 dollar. Mevrouw Lee kwam niet persoonlijk opdagen, maar had een agent gestuurd om de $92,07 aan onroerendgoedbelasting te betalen die voor het land verschuldigd was. De regering wees haar agent af en weigerde de belastingbetaling te accepteren. In 1874 klaagde Custis Lee, erfgenaam van het testament van zijn grootvader dat het landgoed in trust aan zijn moeder overdroeg, de Verenigde Staten aan om het eigendom van Arlington op te eisen. Nadat het U.S. Supreme Court in de zaak United States v. Lee met 5-4 in het voordeel van Lee had beslist dat Arlington illegaal was afgenomen, gaf het Congres het land aan hem terug. Het jaar daarop verkocht Custis Lee het terug aan de regering voor 150.000 dollar. Custis Lee en Robert Todd Lincoln, minister van Oorlog en zoon van president Lincoln, waren beiden aanwezig toen het land officieel aan de regering werd overgedragen.
In 2011 doodde orkaan Irene zes grote bomen op de begraafplaats. De 220 jaar oude "Arlington Oak" viel om bij het graf van John F. Kennedy.