O que é a extremo relativo de uma função?

Um ponto máximo relativo é um ponto onde a função muda sua direção de crescente para decrescente (fazendo desse ponto um "pico" no gráfico). De modo similar, um ponto mínimo relativo é um ponto onde a função muda sua direção de decrescente para crescente (fazendo desse ponto um "vale" no gráfico).

Como encontrar os extremos de uma função?

O extremo local de uma função diferenciável pode ser encontrada através do teorema de Fermat, em que encontra os pontos críticos. Um modo é distinguir aonde o ponto critico é máximo local ou mínimo local usando o teste da primeira derivada, ou o teste de várias derivadas, dando uma suficiente diferenciabilidade.

O que acontece com a derivada no valor máximo da função?

O critério da primeira derivada e o Teorema do Valor Máximo garantem que para um ponto ser extremo de uma função derivável no intervalo fechado [a,b], tais pontos serão as extremidades x=a e x=b ou os pontos x de (a,b) para os quais f '(x)=0.