GPUswap: Oversubscription von GPU-Speicher durch transparentes Swapping Derzeit halten GPUs verstärkt Einzug in Cloud-Plattformen. Dies gibt den Nutzern dieser Plattformen die Möglichkeit, zu niedrigen Kosten von der hohen Performance dieser GPUs zu profitieren. Allerdings entsteht der Kostenvorteil der Cloud vor allem durch Oversubscription der Hardware: Cloud-Anbieter vermieten mehr Ressourcen, als tatsächlich physisch vorhanden sind, in der Annahme, dass die Kunden die gebuchten Ressourcen nicht vollständig ausnutzen. Da der Speicher der GPU eine beschränkte Ressource ist, ist diese Oversubscription auch für GPU-speicher wünschenswert. Da aktuelle GPUs aber keine Page Faults unterstützen, ist es schwierig, Oversubscritption von GPU-Speicher zu realisieren, ohne dass die Performance der Anwendungen darunter leidet: Aktuelle Ansätze für Oversubscription von GPU-Speicher setzen auf Software-Scheduling sämtlicher GPU-Anwendungen, was einen signifikanten Overhead verursacht -- und zwar selbst dann, wenn eigentlich genug GPU-Speicher vorhanden ist. In meinem Vortrag stelle ich GPUswap vor, einen neuen Ansatz für Oversubscription von GPU-Speicher, der ohne Software-Scheduling auskommt und daher keinen Overhead verursacht, solange kein Speicherdruck existiert. GPUswap nutzt die Fähigkeit aktueller GPUs, direkt auf den Hauptspeicher des Systems zuzugreifen, um den GPU-Speicher zu erweitern. Tritt Speicherdruck auf, verschiebt GPUswap transparent Daten aus dem GPU-Speicher in den Hauptspeicher. Da GPUswap dabei sicherstellt, dass sämtliche Daten jederzeit für die GPU zugänglich sind, können Anwendungen jederzeit Jobs auf der GPU starten, ohne dass zusätzliche Absicherungen wie Software-Scheduling notwendig sind. Experimente mit einem Prototypen von GPUswap zeigen, dass dieser GPU-Anwendungen selbst dann ausführen kann, wenn nur noch 20 MB GPU-Speicher zur Verfügung stehen. Im Gegensatz zu vorherigen Ansätzen ist unser Prototyp außerdem in der Lage, GPU-Anwendungen mit nativer Performance auszuführen, solange genug GPU-Speicher zur Verfügung steht.