JPEG / JPG
JPEG é muito usado em fotografias. Ele comprime bem imagens com muitos tons e detalhes, mas usa compressão com perda e não oferece transparência tradicional. Repetir várias conversões pode acumular artefatos.
PNG
PNG é útil para gráficos, interfaces, logos e imagens que precisam de transparência. Em fotografias grandes, costuma gerar arquivos maiores que alternativas com perda.
WebP
WebP combina suporte a transparência com opções de compressão eficientes e é amplamente suportado por navegadores modernos. Para sites, frequentemente é uma boa escolha quando o fluxo de publicação aceita o formato.
Qual escolher?
Para foto: teste WebP ou JPEG. Para arte com transparência e linhas nítidas: PNG ou WebP. O melhor resultado depende do conteúdo, então compare tamanho e aparência em vez de escolher apenas pela extensão.