Biasanya, virtualisasi sistem mengacu pada salah satu dari dua hal; virtualisasi sistem komputer atau virtualisasi sistem operasi. Virtualisasi komputer berpusat pada penggunaan perangkat lunak untuk membuat sistem komputer virtual. Virtualisasi sistem operasi menciptakan instance virtual dari lingkungan operasi. Instance ini sering berjalan di atas sistem lain atau diekspor ke sistem komputer virtual. Dalam kedua kasus, pusat teknologi pada pembuatan perangkat lunak yang mengemulasi sistem komputer perangkat keras.
Teknologi virtualisasi sudah ada sejak tahun 60-an. Pada hari-hari awal, komputer menggunakan perangkat lunak untuk meniru operasi mesin dan membuat sumber daya tingkat rendah, seperti memori. Program virtual awal ini terhambat oleh daya yang relatif rendah dari komputer era itu. Baru pada akhir 90-an sistem virtual mulai benar-benar lepas landas. Peningkatan daya komputasi, akses ke transfer data berkecepatan tinggi dan meluasnya penggunaan prosesor multi-core memungkinkan virtualisasi sistem yang lengkap menjadi kenyataan.
Sistem komputer virtual dapat berupa apa saja, mulai dari server hingga desktop workstation. Dalam bentuk apa pun, sistem komputer bekerja dengan cara yang sama—satu perangkat keras komputer menjalankan program yang secara efektif membagi sistem menjadi beberapa bagian. Setiap bagian memiliki sistem operasi yang berfungsi penuh terpasang atau terhubung secara virtual. Program keseluruhan mengawasi setiap bagian individu, tetapi di luar itu, setiap bagian beroperasi sebagai mesin independen.
Apa yang terjadi kemudian tergantung pada tujuan mesin virtual. Sebuah server virtual bertindak seperti server normal. Komputer dan sistem lain terhubung dengannya, bahkan seringkali tanpa mengetahui bahwa sistem tersebut tidak ‘nyata’. Sistem desktop virtual biasanya akan terhubung ke workstation jarak jauh yang dilengkapi secara khusus untuk menangani ruang kerja virtual. Desktop akan dapat diakses dari lokasi yang telah ditentukan sebelumnya, memungkinkan seorang pekerja untuk mengakses komputer pribadinya dari berbagai tempat.
Virtualisasi sistem operasi melibatkan server atau desktop virtual yang terhubung ke satu versi sistem operasi dan membuat salinan virtual di atas program virtual mereka. Dalam hal ini, pengguna akan duduk di stasiunnya dan terhubung ke server virtual yang pada gilirannya akan terhubung ke versi virtual sistem operasi dan mengirimkannya ke pengguna. Alasan umum lainnya untuk virtualisasi sistem operasi adalah di lingkungan hosting. Ketika komputer bertindak sebagai host Internet, itu berisi akun banyak pengguna pada satu sistem. Masing-masing pengguna ini memerlukan akses penuh ke sistem yang disediakan oleh sistem operasi, tetapi bukan sumber daya akun lain—dengan membuat sistem operasi virtual untuk sistem secara keseluruhan, akun dapat mengakses apa yang mereka butuhkan tanpa mengganggu keamanan akun-akun lainnya.