Nun, ich habe Lyx noch nie benutzt, aber wenn man mich zwingen würde, würde ich versuchen biblatex mit biber zum Laufen zu bekommen:

http://wiki.lyx.org/BibTeX/Biblatex

Ansonsten: Neben der Wahl zwischen natbib und jurabib, muss es eigentlich auch eine Möglichkeit geben, einen anderen bst-Stil auszuwählen.