Voordat geisha's verschenen, werkten sommige vrouwen als artiesten en entertainers. In de Heian-periode (794-1185) vermaakten vrouwen de mensen aan het keizerlijk hof met zang en dans en stonden ze bekend als shirabyōshi (白拍子).
Later vermaakten vrouwen die werkten als prostituees en courtisanes mannen in de rosse buurten van Japan. In 1589 gaf Toyotomi Hideyoshi toestemming voor de bouw van een wijk in Kyoto die van buitenaf werd afgesloten met muren. Het werd Shimabara genoemd en was gewijd aan plezier. Shimabara werd in 1640 opgericht als een officiële rosse buurt, en werd een van de drie gebieden in Japan waar prostitutie legaal kon worden uitgeoefend. De andere twee waren Yoshiwara in Tokio, opgericht in 1617, en Shinmachi in Osaka.
De gesloten gebieden stonden bekend als yūkaku en waren de enige plaatsen waar vrouwen zich mochten prostitueren. Courtisanes werden gezamenlijk oiran genoemd (花魁) en waren erg duur. Oiran vermaakten ook mannen met zang, dans, poëzie, muziek en conversatie. De hoogstgeplaatste oiran waren de tayū, die zich niet bezighielden met prostitutie, onder de andere oiran. In plaats daarvan lieten zij één of twee rijke klanten optreden als hun beschermheer; die mannen betaalden veel geld om vermaakt te worden door hun tayū klanten.
Tayū konden mannen afwijzen en beslissen wie zij zouden vermaken. Tayū werden van jongs af aan opgevoed om zeer bedreven te zijn in verschillende soorten kunst en vermaak, en velen van hen werden beroemdheden. Er bestaan veel houtsneden en schilderijen van beroemde tayū, en andere oiran.
Geisha's verschenen pas veel later, tijdens de Tokugawa-periode. Oorspronkelijk waren geisha's mannen die door de rosse buurten reisden om klanten te vermaken met muziek, dans en poëzie. Deze mannen stonden bekend als geisha maar werden ook wel otoko geisha (男芸者, 'mannelijke geisha'), hōkan (幇間, 'narren') en taikomochi (太鼓持ち, 'trommelaars') genoemd omdat zij de taiko, een Japanse trommel, bespeelden.
Mannelijke geisha's waren zeer laaggeplaatste entertainers, maar oiran werden beschouwd als hogere klasse. Elke man die bij een oiran wilde zijn, moest moeilijke rituelen en etiquette volgen en genoeg geld hebben om haar tijd te betalen. Dat betekende dat alleen de rijkste adel zich door oiran liet vermaken. Veel theehuizen (ochaya (お茶屋)) verschenen buiten Shimabara en boden vermaak dat niet binnen Shimabara werd aangeboden. In sommige theehuizen beoefenden sommige vrouwen goedkopere prostitutie en werden sancha-jorō genoemd. Maar andere vrouwen, die 'odoriko' ('dansmeisjes') werden genoemd, traden op als dansers en muzikanten en werden al snel erg populair. Zij begonnen zichzelf 'geisha' te noemen, net als de mannelijke artiesten die in Shimabara werkten.
Rond 1700 waren vrouwelijke geisha's veel populairder geworden dan mannelijke geisha's. Enkele jaren later waren bijna alle geisha's vrouwen.
De regering verbood geisha's als prostituee te werken en stond hen alleen toe als entertainer op te treden. Een van de wetten zorgde ervoor dat ze hun obi (帯) (sjerp) achteraan moesten binden, zoals oiran die aan de voorkant droegen als teken dat ze beschikbaar waren voor seks. Geisha's moesten eenvoudiger kapsels, minder haaraccessoires, minder make-up en eenvoudiger kimono's dragen. Als een oiran een geisha beschuldigde van het stelen van haar klanten, werd de geisha onderzocht.
Al snel werd de geisha zo veel populairder dan de oiran dat in 1761 de laatste tayū van Yoshiwara met pensioen ging. Hoewel de tayū bleven werken in Kyoto en Osaka, werden oiran als geheel gezien als verouderd, te traditioneel en te duur. Oiran konden de rosse buurten niet verlaten omdat ze veel schulden hadden bij de eigenaar van het bordeel waar ze werkten en niet meer als beroemdheden of modieus werden beschouwd. De meeste mensen konden het zich niet veroorloven hen in te huren. Geisha's daarentegen waren goedkoper en modieuzer, en konden de rosse buurten verlaten wanneer ze maar wilden. Ze zongen populaire liedjes en hadden geen dure ontmoetingen nodig voordat ze een klant konden vermaken. In Kyoto en andere steden ontstonden nieuwe geishawijken (hanamachi).
In de 19e eeuw hadden geisha's een betere positie dan gewone vrouwen, maar ze hadden ook problemen in de Japanse samenleving. Sommige arme mensen verkochten hun dochters aan een geishahuis, maar dat kwam minder vaak voor dan sommigen denken omdat veel geisha's uit families kwamen waarin de moeder of een ander vrouwelijk familielid ooit geisha was geweest. Geisha's konden niet trouwen, maar konden wel een beschermheer hebben die hun onkosten betaalde, en sommigen gingen met pensioen als ze een rijke beschermheer kregen. Andere mannen betaalden veel geld om nieuwe meisjes te ontmaagden (mizuage), en als de eigenaar van een geishahuis oneerlijk en hebzuchtig was, kon een jonge geisha haar maagdelijkheid een aantal keren aan verschillende mannen laten verkopen.
De reputatie en het respect voor de geisha groeide echter tijdens de Meiji Restauratie en nog meer na de Tweede Wereldoorlog. Er kwamen belangrijke wetten om hen te beschermen. Jonge meisjes konden niet meer aan de geishahuizen worden verkocht, en de maagdelijkheid van jonge geisha's kon niet meer worden gekocht. Sindsdien worden vrouwen alleen nog geisha uit vrije wil.