Fue obligado al exilio cuando Alfonso I el Batallador toma Zaragoza en 1118. Se refugia en Xátiva donde ejerce la medicina, pasa a Almería, a Sevilla, a Granada, a Orán, en la actual Argelia, y termina en Marruecos donde muere envenenado en Fez, entre 1128 y 1138. Tuvo una formación muy completa, estudiando música, astronomía, botánica, lógica y física o filosofía de la naturaleza.
En música tocaba el laúd y componía (se le atribuye la invención de una melodía que podría ser un antecedente del himno nacional español, También escribió poemas, y algunos arabistas le consideran inventor de un tipo de estrofa denominado zéjel. Por lo que respecta a la física, sus ideas sobre el movimiento se aproximaban a las que posteriormente expondría Galileo (1564, 1642), siendo bastante diferentes a las de Aristóteles (384 a.C., 322 a.C.), que eran muy aceptadas en su época y posteriormente, en toda la Edad Media.
Su pensamiento místico y ascético influyó en importantes filósofos tanto cristianos como musulmanes. En su obra fundamental, «El régimen del solitario«, propone que el hombre que aspire a la perfección debe apartarse, en lo posible, de los aspectos materiales de la vida para lograrlo. Su profesión era la de médico y esto implicaba en la Edad Media que debía tener conocimientos sobre las plantas. Acerca de ellas escribió varios tratados, algunos muy citados por otros autores posteriores.
Ha sido olvidado durante mucho tiempo, pero actualmente se está reconociendo la importancia que tuvo, por sí mismo y la influencia que ejerció en destacados pensadores, tanto cristianos como musulmanes.