Xen läuft direkt auf der Hardware (x86, IA-64, PowerPC). Diese wird für die darauf laufenden Systeme (Domains) paravirtualisiert. Dabei wird eine sehr hohe Performance erzielt, da die Hardware nicht emuliert wird, sondern diese den Gastsystemen mit einem sehr kleinen Overhead zur Verfügung gestellt wird.
Die Gastsysteme (Domains) können unter anderem Linux und NetBSD sein. Auf der Brainshare 2005 stellte Novell eine Portierung von NetWare auf Xen vor. Seit der Version 3.0 können Betriebssysteme, wie z. B. Microsoft Windows, dank speziell dafür entwickelter Prozessorerweiterungen, wie etwa Intel VT oder AMD-V (auch AMD Pacifica genannt), ohne Modifikationen mit Xen genutzt werden. Andere Portierungen sind geplant.
Xen setzt eine Ebene unter den normalen Betriebssystemkerneln an und zieht eine abstrahierende Schicht zwischen der Hardware und den Gastsystemen ein; es wacht als ein so genannter Hypervisor über die Verteilung der Ressourcen – wie CPU-Zeit, I/O-Zyklen u. a. – an die Gast-Systeme.
Die zu beherbergenden Kernel müssen dabei an die Xen-Architektur angepasst werden, daher ist es zunächst einmal nur für quelloffene Systeme möglich, auf Xen portiert zu werden.
Xen unterscheidet dabei privilegierte (sog. Domäne-0) und unprivilegierte Domänen, d. h. virtuelle Systeme. Die Domäne-0 hat die volle Kontrolle über das System und die anderen Gast-Domänen.
Unter einer „normalen“ Distribution wird Xen installiert und eingerichtet. Das sind im wesentlichen der Kernel und einige Userland-Werkzeuge. Danach wird der Computer neu gestartet und der Xen-Kernel geladen. Anschließend wird Domain-0, welche alle anderen Domains steuert, gestartet. Mit den Xen-Tools werden andere Domains gestartet, die mit einem Xen-Kernel laufen. So können viele verschiedene Distributionen mit unverändertem Ring parallel laufen. Die Anzahl der laufenden Gastsysteme ist nur durch die Ressourcen (CPU, Arbeitsspeicher usw.) des Rechners beschränkt.
Die einzelnen Gastsysteme werden voneinander sehr stark isoliert und laufen annähernd so schnell, als ob sie direkt auf der Hardware liefen. Diese Eigenschaft unterscheidet Xen von den anderen Verfahren wie UML, VMware-Workstation oder -GSX-Server usw. und entspricht in etwa dem kommerziellen Produkt VMware ESX-Server.
