Hola BATMW, en este caso Ibooks author es una aplicación para crear tú mismo libros electrónicos y su uso sería en un iPad o iPhone.
Si no tienes la aplicación disponible en tu iMac, probablemente sea porque tengas Leopard o Snow Leopard y sólo está disponible para usuarios de Lion (aunque se puede hacer una ñapa para que funcione en Snow Leopard) pero creo que no es ese el uso que le querías dar, ya que por lo que parece lo que querías era un lector de libros en iMac?
De ser así tienes muchas app que leen libros, creo que en formato epub tienes una gratuíta que se llama KITABU. Si la descargas, una vez que la instales la forma de leer un libro podría ser la siguiente; Vas a iTunes, click derecho sobre el libro en cuestión que quieras leer, pulsas "mostrar en Finder" y una vez Finder te muestre el lugar donde tienes el libro en formato epub, click derecho en "abrir con..." y seleccionas KITABU.