Sono due cose del tutto diverse. Una VPN è sostanzialmente una rete privata (non a caso si chiama Virtual Private Network), come fosse la rete di casa tua, però più estesa e virtuale. Sì, viene usata anche per anonimizzare perchè permette di mascherare l'IP dell'utilizzatore, ma il reale principale utilizzo delle VPN è quello di collegare PC di reti diverse, magari in due parti opposte del mondo, all'interno di una stessa rete (non a caso sono usate in ambito aziendale per favorire a dipendenti e server di essere sempre interconnessi, anche con macchine che stanno in America o in Russia).
Le VPS invece sono dei veri e propri server, dei computer remoti, sui quali ti colleghi e fai quello che vuoi. Non hanno niente a che fare con reti o anonimato (non nel loro utilizzo tradizionale), semplicemente sono dei computer in affitto con il loro indirizzo IP e la loro esposizione su internet. Sono usati per hostare siti web, per fare backup oppure operazioni computazionali complesse data (in genere) la buona capacità computazionale.
Anche le sigle sono simili, le due cose sono del tutto diverse. Al massimo è possibile installare un servizio VPN sopra la propria VPS, rendendo di fatti il server VPS ANCHE un server VPN, ma le due cose restano comunque differenti.