Cache coherentie

Coherentie definieert het gedrag van lezen en schrijven naar dezelfde geheugenlokatie. De caches zijn coherent, als aan alle volgende voorwaarden is voldaan:

1. Wanneer een processor P een plaats X leest, moet P, na naar die plaats te hebben geschreven, de waarde krijgen die hij heeft geschreven, indien geen andere processor een andere waarde naar die plaats heeft geschreven. Dit geldt ook voor monoprocessor-systemen, het betekent dat het geheugen in staat is een geschreven waarde te behouden.
2. Stel dat er twee processoren zijn, P1 en _P2, en P1 schreef een waarde X1, en daarna, _P2 schreef een waarde X2, als P1 de waarde leest, moet het de door _P2 geschreven waarde krijgen, X2, en niet de waarde die het zelf schreef, X1, als er geen andere schrijfacties tussen de twee zijn. Dit betekent dat het beeld van het geheugen coherent is. Als processoren dezelfde oude waarde kunnen lezen na de schrijfactie van _P2, zou het geheugen niet coherent zijn.
3. Er kan maar één keer tegelijk naar een bepaalde plaats in het geheugen worden geschreven. Als er meerdere schrijfacties zijn, moeten deze na elkaar plaatsvinden. Met andere woorden, als locatie X twee verschillende waarden A en B heeft gekregen, in deze volgorde, door twee willekeurige processoren, kunnen de processoren locatie X nooit lezen als B en daarna lezen als A. De locatie X moet worden gezien met de waarden A en B in deze volgorde.

Deze voorwaarden zijn gedefinieerd in de veronderstelling dat de lees- en schrijfoperaties ogenblikkelijk worden uitgevoerd. In computerhardware gebeurt dit echter niet vanwege geheugenlatentie en andere aspecten van de architectuur. Het is mogelijk dat een schrijfoperatie van processor X niet wordt gezien door een leesoperatie van processor Y als de leesoperatie plaatsvindt binnen een zeer korte tijd nadat de schrijfoperatie is uitgevoerd. Het geheugenconsistentiemodel definieert wanneer een geschreven waarde moet worden gezien door een volgende leesinstructie van de andere processoren.

• Coherentiemechanismen op basis van een directory houden een centrale directory van blokken in de cache bij.

• Snooping is het proces waarbij elke cache adresregels controleert op toegangen tot geheugenlocaties die zich in zijn cache bevinden. Wanneer een schrijfoperatie wordt waargenomen op een plaats waar een cache een kopie van heeft, maakt de cache-controller zijn eigen kopie van de gesnoopte geheugenplaats ongeldig.

• Bij snarfing kijkt een cache-controller zowel naar adres als naar gegevens in een poging zijn eigen kopie van een geheugenlokatie bij te werken wanneer een tweede master een lokatie in het hoofdgeheugen wijzigt.

Gedistribueerde gedeelde geheugensystemen bootsen deze mechanismen na, zodat zij consistentie kunnen handhaven tussen geheugenblokken in losjes gekoppelde systemen.

De twee meest voorkomende soorten coherentie die gewoonlijk worden bestudeerd zijn Snooping en Directory-based. Elk heeft zijn eigen voor- en nadelen. Snooping-protocollen hebben de neiging sneller te zijn, als er voldoende bandbreedte beschikbaar is, omdat alle transacties een verzoek/antwoord zijn dat door alle processoren wordt gezien. Het nadeel is dat snooping niet schaalbaar is. Elk verzoek moet naar alle nodes in een systeem worden uitgezonden. Naarmate het systeem groter wordt, moet de grootte van de (logische of fysieke) bus en de bandbreedte die deze levert toenemen. Directories daarentegen hebben de neiging om langere latenties te hebben (met een 3 hop verzoek/forward/respond) maar gebruiken veel minder bandbreedte omdat berichten van punt tot punt gaan en niet worden uitgezonden. Om deze reden gebruiken veel van de grotere systemen (>64 processoren) dit type cache coherentie.