No he conseguido encontrar los coeficientes A y B, pero de todas formas la integral en y puede resolverse por partes y haciendo varios cambios de variables lineales. Veamos cuáles.
Hemos llegado a que la integral que pedías es equivalente a

que podemos integrar por partes

la última integral no es tan difícil como parece ya que

la integral en

es inmediata ya que si hacemos

resulta

con lo que sólo queda que deshagamos (todos) los cambios.
En la variable auxiliar que antes definí, me queda:

.
En
wiki vienen fórmulas para escribir el seno y coseno en función de la tangente.