Решение 

Z = `+`(`/`(1, `*`(`+`(sqrt(11), `-`(sqrt(10))))), `-`(`/`(1, `*`(`+`(sqrt(10), `-`(3))))), `-`(sqrt(11))) 

Избавимся от иррациональности в знаменателях дробей: 

Z = `+`(`*`(`+`(sqrt(11), sqrt(10)), `/`(1, `*`(`+`(sqrt(11), `-`(sqrt(10))), `*`(`+`(sqrt(11), sqrt(10)))))), `-`(`*`(`+`(sqrt(10), 3), `/`(1, `*`(`+`(sqrt(10), `-`(3)), `*`(`+`(sqrt(10), 3)))))), `-... 

Z = `+`(`/`(`*`(`+`(sqrt(11), sqrt(10))), `*`(`+`(11, -10))), `-`(`/`(`*`(`+`(sqrt(10), 3)), `*`(`+`(10, -9)))), `-`(sqrt(11))) 

Z = `+`(`+`(`+`(sqrt(11), sqrt(10)), `+`(`-`(sqrt(10)), `-`(3))), `-`(sqrt(11))) 

Z = -3 

Ответ 

А