там все правильно записано?
котангенс представь как 1/tg потом делай замену переменной, и решай квадратное уравнение