Aquí está la solución:
Por FTp crea una carpeta llamada jomsocial en el directorio: public_html/tusitio.com/tmp es decir quedaria asi: public_html/tusitio.com/tmp/jomsocial, alli sube el paquete de jomsocial 1.8, luego lo descomprimes.
Luego te diriges en el panel de administracion a instalar y donde dice Instalar desde directorio pones la direccion public_html/tusitio.com/tmp/jomsocial y das clic en instalar Y LISTO.