Budapesti Műszaki és Gazdaságtudományi Egyetem Méréstechnika és Információs Rendszerek Tanszék Memória és perifériák virtualizációja Tóth Dániel Virtualizációs.

Az előadások a következő témára: "Budapesti Műszaki és Gazdaságtudományi Egyetem Méréstechnika és Információs Rendszerek Tanszék Memória és perifériák virtualizációja Tóth Dániel Virtualizációs."— Előadás másolata:

1 Budapesti Műszaki és Gazdaságtudományi Egyetem Méréstechnika és Információs Rendszerek Tanszék Memória és perifériák virtualizációja Tóth Dániel Virtualizációs Technológiák és Alkalmazásaik

2 Tartalom  Előző rész tartalmából: o CPU virtualizáció o A három alap virtualizációs megközelítés  Memória virtualizáció o Virtuális memória az operációs rendszerekben o Virtuális memória a platform virtualizációban o Virtuális memóriakezelés speciális képességei: megosztás, késleltetett allokáció, memória-ballon  Perifériák virtualizációja o Perifériák programozói felülete általában o Periféria virtualizációs architektúrák 2

3 Emlékeztető: virtuális CPU feltételei  Popek és Goldberg* követelményei egy virtualizált rendszerrel szemben o VMM – virtual machine monitor: olyan komponens, ami a virtuális gépek számára az absztrakciót biztosítja  Ekvivalencia o A VMM felett futó program mindig pontosan ugyanazt az eredményt adja futás közben, mint ha fizikai CPU-n közvetlenül futna  Erőforrás kezelés o A VMM minden virtualizált erőforrást teljes egészében maga felügyel  Hatékonyság o A virtuális gépben futó program utasításainak nagy része változtatás és VMM beavatkozás nélkül fut a fizikai CPU-n 3

4 Emlékeztető: A három virtualizációs lehetőség  Virtualizáció – az utasításokat (egy részüket) változatlanul hagyja végrehajtani, csak a problémás privilegizáltakkal kell valamit kezdeni o Szoftveres virtualizáció (Trap and Emulate + bináris fordítás) o Hardveres virtualizáció (Trap and Emulate, teljesen hardveres támogatással) o Paravirtualizáció 4

5 Tartalom  Előző rész tartalmából: o CPU virtualizáció o A három alap virtualizációs megközelítés  Memória virtualizáció o Virtuális memória az operációs rendszerekben o Virtuális memória a platform virtualizációban o Virtuális memóriakezelés speciális képességei: megosztás, késleltetett allokáció, memória-ballon  Perifériák virtualizációja o Perifériák programozói felülete általában o Periféria virtualizációs architektúrák 5

6 Virtuális memóriakezelés  Modern CPU-k tartalmaznak memóriakezelő egységet (MMU – memory management unit) o Feladata „virtuális” memóriacímeket leképezni „fizikaira” o Mi is az a virtuális memóriacím? Hol használható? o CPU felhasználói (pl. Ring 1-3) módjaiban virtuális címekkel dolgozik (nem feltétlenül, de a modern OS-eknél ez igaz) o Az alkalmazások nem a fizikai memóriacímeket látják Cél: áthelyezhető legyen az oprendszer felett futó alkalmazások kódja, ne csak fix bedrótozott helyen tudjon futni (akár szoftveresen is megoldható lenne…) Cél2: eközben a teljesítmény ne romoljon számottevően (ehhez már hardver támogatás is kell) 6

7 Virtuális memóriakezelés Fizikai memória Alkalmazás memóriája Cím: 0 Cím: N-1 Cím: M-1 Az alkalmazás egy 0-tól induló összefüggő virtuális címtartományt lát. Tehát minden pointer a virtuális címtartományban értelmezett. 7

8 Virtuális memóriakezelés Fizikai memória 1. Alkalmazás memóriája Cím: 0 Cím: N-1 Cím: M-1 Ez minden alkalmazásra igaz 2. Alkalmazás memóriája Cím: 0Cím: K-1 8

9 Virtuális memória megvalósítása lapokkal  Memória lapok (pages) o Virtuális → fizikai memória cím hozzárendelés o Tipikusan (x86) 4 kB méretű allokációs egységekben o A cím utolsó 12 bitje a lapon belüli cím o A cím első 20 bitje kétszintű (10-10 bit) laptábla cím Létezik óriás lap üzemmód is, ilyenkor csak egyszintű laptábla van, ezen belül 22 bit (4MB) pozíciócím Lap könyvtár (page directory) – első 10 bit Lap tábla (page table) – második 10 bit Fizikai memória címtartomány Pozíció a lapon belül – 12 bit 9

10 Virtuális memória megvalósítása lapokkal  A laptáblák is a fizikai memóriában foglalnak helyet o Csak az operációs rendszer kernel módosíthatja őket o Minden alkalmazáshoz másik táblakészlet tartozik, a kernel ütemezéskor cseréli ki mindig a megfelelőre o Az MMU a CPU laptábla regisztere alapján tudja, hogy hol kell keresni legfelső szintű lap könyvtárat o Automatikusan feloldja a virtuális címeket fizikaira, a virtuális címeket használó kód módosítás nélkül fut o A virtuális címtartományból kicímzés vagy read-only bittel jelölt lapra írás trap-et vált ki a CPU-ban Lap könyvtár (page directory) – első 10 bit Lap tábla (page table) – második 10 bit Fizikai memória címtartomány Pozíció a lapon belül – 12 bit 10

11 Memória virtualizálása  A Ring 0-tól eltérő szinteken futó folyamatok virtuális memóriát látnak o A virtuális -> fizikai cím feloldása hardverben történik laptáblák alapján. Gyors, TLB cache-eli fizikai-virtuális cím hozzárendelést.  Használhatjuk ezt a vendég gépek memóriájához? o Több szint kell: a VM-ben is kell saját laptábla a saját alkalmazásokhoz o De a CPU ilyet nem támogat. o Lapszervezés kombinálható a szegmens szervezéssel („gányolás” de x86 szoftveres virtualizációnál néhány helyen jól jön) o Kell két példány a laptáblából az egyik a vendég kernel számára látható és a vendég VM „fizikai” címeit képezi le a VM-en belül futó alkalmazások „virtuális” címeire. A másik a VMM (és a CPU) számára látható ún. árnyék laptábla (Shadow page table) és a futtató gép „igazi fizikai” címeit képezi le a VM-en belül futó alkalmazások virtuális címére. 11

12 Memória virtualizálása VM allokációs laptábla: Virtuális gép „fizikai” memóriacímei -> Fizikai gép fizikai memóriacímei Guest laptábla Virtuális gép virtuális címei -> Virtuális gép „fizikai” címei Árnyék laptábla Virtuális gép virtuális címei -> Fizikai gép fizikai címei Guest OS azt „hiszi”, hogy ezt használja. A kernele ezt próbálja módosítani A fizikai processzor valójában ezt használja. A guest ennek létezéséről nem tud. Ha módosítja a guest a saját laptábláját, ezt is frissíteni kell. 12

13 Memória virtualizálása  Másik nézetben: Fizikai memória a hardverben A virtuális gép „fizikai” memóriája App. A virtuális gépben futó alkalmazás virtuális memóriája Guest laptábla VM allokációs laptábla Árnyék laptábla 13

14 Memória virtualizálása  De mi van, ha guest kernel módosítani akarja a laptábláját? o Megfelelően frissíteni kell az árnyék táblát is o -> természetesen Trap and emulate, de hogyan? o Read-only-ra állítjuk a vendég kernel számára látható laptáblákat, ha az módosítani akarja, akkor jön a kivétel, átkerül a vezérlés a VMM-hez ami biztonságosan elvégzi a módosítást az árnyék táblán is  Második megoldás: hardveres kiegészítés több szintű laptáblák kezelésére o Core i7 és Phenom processzoroktól kezdve van o Az egész árnyék tábla frissítési problémát hardveresen lekezeli  Harmadik megoldás: „természetesen?! trap and emulate?” o A guest kernel egyszerűen ne maga akarja módosítani a laptáblát, kérje meg a VMM-et erre Tanulságok: A memóriakezelésben is a háromféle fő megvalósítás megtalálható. A memóriakezeléshez extra laptáblák kellenek, tehát a VM több host memóriát igényel, mint amennyi számára látható lesz A memória foglalása és felszabadítása extra feladatot jelenthet a VMM számára is (kivéve hardveresen virtualizált MMU-nál) Tanulságok: A memóriakezelésben is a háromféle fő megvalósítás megtalálható. A memóriakezeléshez extra laptáblák kellenek, tehát a VM több host memóriát igényel, mint amennyi számára látható lesz A memória foglalása és felszabadítása extra feladatot jelenthet a VMM számára is (kivéve hardveresen virtualizált MMU-nál) 14

15 Extra memória virtualizálási lehetőségek  Memórialap deduplikáció o azonos tartalmú memórialapok megosztása több vendég VM között o hasonlóképpen azonos lapok megosztása egy vendégen belül is o gyakorlati haszna főleg speciális alkalmazásokban (Virtual Desktop Infrastructure), tipikusan több példány fut azonos OS-ből  Megvalósítása o gyors hash számítás, ez alapján egyezés keresés o közösített lapok megbontása beleíráskor, copy-on-write elv  Hasonló: memória tömörítés o Egészen új lehetőség VMM-ekben (az ötlet persze régi) o CPU költsége nagyon nagy lenne, ezért: o az inaktív, amúgy háttértárra kilapozásra ítélt lapokat szokás tömöríteni -> a ki/be tömörítés még így is gyorsabb a merevlemeznél o Nem csodaszer… kompromisszumot kell kötni a tömörítetlen és tömörített lapoknak fenntartott memória mérete között, csak korlátozott méretben előnyös 15

16 Extra memória virtualizálási lehetőségek  Dinamikus allokáció o ami memóriát nem használ ki a vendég, arra ne is tartsunk fenn lapokat o Gyakorlati haszna önmagában elenyésző, a legtöbb OS az összes szabad memóriát disk cache-nek használja o Háttértárra swappelhetők a lapok a vendég OS tudta nélkül  Memória felfújás (memory ballooning) o Ha kifogy a host memóriája, akkor „elvesz” a vendégtől o Egy ágens vagy driver a vendég kernelben (paravirtualizációs szemléletmód) elkezd memóriát foglalni a VMM utasítására. A VMM az ágens által „foglalt” memórialapok mögé nem is allokál fizikai memóriát, így nyer vissza helyet o Egyrészt a vendég fel fog adni a disk cache-ből, o Másrészt el fog kezdeni kilapozni a saját swap területre, elkerüli, hogy a host is swappeljen Tanulságok: Figyelni kell a memóriafoglalást, nagyot esik a teljesítmény, ha diszkre kell lapozni Ha van rá lehetőség, ki kell használni a vendégbe telepíthető ballooning drivert, elkerülhető vele a vergődés Tanulságok: Figyelni kell a memóriafoglalást, nagyot esik a teljesítmény, ha diszkre kell lapozni Ha van rá lehetőség, ki kell használni a vendégbe telepíthető ballooning drivert, elkerülhető vele a vergődés 16

17 Tartalom  Előző rész tartalmából: o CPU virtualizáció o A három alap virtualizációs megközelítés  Memória virtualizáció o Virtuális memória az operációs rendszerekben o Virtuális memória a platform virtualizációban o Virtuális memóriakezelés speciális képességei: megosztás, késleltetett allokáció, memória-ballon  Perifériák virtualizációja o Perifériák programozói felülete általában o Periféria virtualizációs architektúrák 17

18 Perifériákról általában  A perifériák kezelése jellegzetesen o CPU felprogramozza a perifériát, regiszterek átírása o Periféria eseményt jelez a CPU felé, megszakítás Ilyenkor valamilyen módon le kell kezelni az eseményt, valamit reagálni kell rá o Periféria maga elvégzi a feladatát, közvetlen memória hozzáférés Kiolvas elküldendő adatot, vagy berak beérkező adatot a memóriába Külön lefoglalt fizikai memóriaterület kell erre a célra A periféria kezelése a „driver” felelőssége, ami többé kevésbé része az OS kernelnek 18

19 Perifériákról általában  Az adapter modell o Napjainkban igen gyakori Adapter Cél periféria Ezt szeretném programozni Az adaptert kell megkérni, hogy adja át a perifériának az üzenetet Az üzenet egy saját (gyakran szabványos) protokollon keresztül jut el a perifériához Adapter programozás Periféria protokollja Perifériának szánt konkrét utasítás, adat Rétegzett programozási modell (pl. USB, SCSI, SATA): 19

20 Perifériák virtualizációja  Emuláció o Trap and emulate -> az I/O műveleteket kell elfogni Ez adódik a CPU futási szintjéből, Ring1-3-ban az I/O műveleteket elfogja Ha a periféria memóriatartományba illesztett, akkor read- only memórialappal fogható el a felprogramozása o Valamilyen létező fajta hardver működését (regiszterek, megszakítás, DMA) emulálni kell egy szoftveres komponenssel Egyfajta „anti-driver”, általános elnevezése Backend A vendégben futó meghajtóprogram valójában ezzel beszélget. o Minden I/O művelet egy kör VMM-ben -> lassú 20

21 Perifériák virtualizációja  Paravirtualizáció o Egyszerűsítsük az emulált hardvert, tervezzünk „nem létező fajta” hardvert, amit a legkevesebb művelettel lehet vezérelni o Egy összetett művelet akár csak egy VMM hívást igényel o Saját „hardverek”, amik magas szintű művelteket végeznek, pl hoszt fájlrendszerhez hozzáférés. Itt kezd keveredni a virtualizáció az operációs rendszerekkel…  Hardveres virtualizáció o Valamilyen hardvert közvetlenül elérhetővé teszünk a vendég számára o Tipikusan olyan esetekben működik, ahol a periféria valami emulált vezérlő adapter felett futó magasabb protokoll rétegben érhető el. Pl.: SCSI merevlemez, USB eszközök o Általános esetben veszélyes… DMA-val a fizikai memória egésze elérhető Léteznek IOMMU megoldások is (pl.: Intel VT-d), használata terjed Léteznek olyan hardverek, amik képesek több guest felől is függetlenül, belső állapot konzisztens megtartással kéréseket fogadni (SR-IOV) Tanulságok: I/O intenzív alkalmazásoknál számolni kell jelentős teljesítményvesztéssel Ha van rá lehetőség telepítsük fel a paravirtualizált eszközmeghajtókat a vendég operációs rendszerbe Lehet olyan feladat, amit közvetlenül a virtuális géphez rendelt hardverrel célszerű megoldani (backup szerver, 3D gyorsítás…) Tanulságok: I/O intenzív alkalmazásoknál számolni kell jelentős teljesítményvesztéssel Ha van rá lehetőség telepítsük fel a paravirtualizált eszközmeghajtókat a vendég operációs rendszerbe Lehet olyan feladat, amit közvetlenül a virtuális géphez rendelt hardverrel célszerű megoldani (backup szerver, 3D gyorsítás…) 21

22 Teljes periféria emuláció Hardver Virtualizációs. réteg. Virtualizációs. réteg. Meghajtó Virtuális gép Meghajtó Backend Ütemező Statikus Hozzárendelés Meghajtó Backend Távoli hozzáférés szerver A Backend nem feltétlenül létező hardverfajtát emulál! Paravirtualizációnál fizikailag nem létező eszközöket valósít meg. 22

23 Hardveres periféria virtualizáció Hardver Virtualizációs réteg Virtualizációs réteg Meghajtó Virtuális gép Meghajtó Backend Meghajtó Lehet olyan hardver, ami közvetlenül I/O műveletekkel vezérelhető virtuális gépből. Manapság ez még nem elterjedt, hardveres feltételei hiányosak. (DMA veszély) Lehet olyan hardver, ami közvetlenül I/O műveletekkel vezérelhető egyszerre több virtuális gépből is. (SR-IOV) Réteges architektúrájú busz elérési protokollok esetén (SCSI, USB) lehetséges: a busz adapter emulált rendszeren keresztül érhető el, de a magasabb rétegekben már a virtuális gép közvetlenül a hardverrel beszél 23

24 Összefoglaló  A virtualizáció alapjai I-II o CPU virtualizáció CPU utasításkészlet architektúra és szerepe A három alap virtualizációs megközelítés o Memória virtualizáció Virtuális memória az operációs rendszerekben Virtuális memória a platform virtualizációban Virtuális memóriakezelés speciális képességei: megosztás, késleltetett allokáció, memória-ballon o Perifériák virtualizációja Perifériák programozói felülete általában Periféria virtualizációs architektúrák 24