Il modo migliore é utilizzare reCaptcha di Google. Qui trovi tutte le informazioni di cui necessiti:

https://www.google.com/recaptcha/intro/index.html

Non risponde al CAPTCHA che vorresti, ma é comunque un modo di integrare un CAPTCHA senza sbatterti troppo.

Con PHP puoi usare la libreria per l'editing delle immagini e creare di tutto e di più, se ti viene difficile con quella di default puoi anche installare una libreria secondaria come quella di ImageMagic. In qualsiasi caso, come ha detto il buon vecchio TheSeeker, ci sono soluzioni comode e pronte all'uso, offerte da Big G (e anche Open Source se non sbaglio).