какую функцию называют сложной?

Сложная функция — это функция от функции. Если u — функция от x, то есть u=u(x), а f — функция от u: f=f(u), то функция y=f(u) — сложная.