Preparei esse texto para enviar à lista linux-especializa e acho que cabe aqui também.
É, basicamente, uma tradução/compilação não-oficial de documentos disponíveis na Web. Espero que ajude alguém. 
1. Registrar-se em http://www.vmware.com/freedownload/login.php?product=server20 para obter o serial number
2. Efetuar o download do pacote tar.gz para Linux, intitulada “The core application needed to run VMware Server 2, TAR image”
3. Instalar os pacotes necessários, disponíveis nos repositórios do Ubuntu
sudo aptitude update
sudo aptitude install build-essential linux-headers-$(uname -r) xinetd
4. Descompactar o arquivo de instalação do VMware Server (considerando que você está no mesmo diretório onde o pacote de instalação foi salvo)
tar zxvf VMware-server-2.0.0-116503.i386.tar.gz
5. Entrar no diretório que foi criado na descompactação
cd vmware-server-distrib
6. Executar o script de instalação do VMware
sudo ./vmware-install.pl
7. O instalador vai fazer um série de perguntas, você pode responder [ENTER] para todas, exceto a última, que pede o serial number obtido anteriormente
8. Depois de instalado, você pode remover os arquivos de instalação
cd ..
rm -rf VMware* vmware-server-distrib
9. O usuário administrador padrão é root, devido a isso, precisamos ativar a conta de root (desativada por padrão no Ubuntu), definindo uma senha. Essa senha será usada para acessar a interface de
administração do VMware pela primeira vez
sudo passwd
10. Agora, acesse a interface de administração do VMware através do endereço https://127.0.0.1:8333 ou http://127.0.0.1:8222, ou ainda executando “vmware” diretamente da linha de comando ou com um ALT+F2. O login é “root” e a senha é a que foi definida no passo acima
11. No menu “Administration” da interface de administração, é possível adicionar um novo usuário administrador (aluno, por exemplo), isso possibilita que você desative a conta de root de volta, o que é fortemente recomendado. Para bloquear a conta de root:
sudo passwd -l root
No tutorial abaixo, tem todo esse passo-a-passo com screenshots (em inglês):
http://www.howtoforge.com/how-to-install-vmware-server-2-on-an-ubuntu-8.04-desktop
