в каких случаях не существует производная ?

По определению, производная есть предел отношения приращения функции к приращению аргумента, когда последнее стремится к 0. Значит. производная не существует тогда, когда не существует этот предел. Например, функция y=модуль (х) не имеет предела при x⇒0.