Temperatura
En modelos de IA generativa, la temperatura es un parámetro numérico (típicamente entre 0 y 2) que controla cuánto varía la respuesta del modelo ante la misma pregunta. Temperatura baja produce respuestas predecibles y consistentes; temperatura alta produce respuestas más creativas y variables. Es uno de los parámetros más importantes al usar la API de un modelo, aunque no se vea en las interfaces de chat conversacional.
Definición rápida
En modelos de IA generativa, la temperatura es un parámetro numérico (típicamente entre 0 y 2) que controla cuánto varía la respuesta del modelo ante la misma pregunta. Temperatura baja produce respuestas predecibles y consistentes; temperatura alta produce respuestas más creativas y variables. Es uno de los parámetros más importantes al usar la API de un modelo, aunque no se vea en las interfaces de chat conversacional.
Explicación ampliada
Por qué importa para tu empresa
Para empresas que están integrando IA en producto vía API, controlar la temperatura es la forma más sencilla de mejorar la consistencia de las respuestas. Si tu chatbot a veces responde "el horario de atención es de 9 a 18" y otras "atendemos de 9:00 a 18:00 horas" para la misma pregunta, casi siempre se debe a una temperatura demasiado alta para ese caso de uso. Bajarla a 0,1 o 0,2 elimina la varianza y da una experiencia más confiable.
Ejemplo concreto
Una empresa de e-commerce probaba dos versiones de su asistente de soporte. La versión A (temperatura 0,7) inventaba ocasionalmente datos cuando no los sabía con seguridad: un cliente preguntaba por la política de devoluciones de un producto sin política específica y el asistente improvisaba una. La versión B (temperatura 0,1) devolvía "no tengo información específica para este producto, te paso con un agente humano" cuando no encontraba el dato en su base. Cambiar la temperatura redujo las quejas por respuestas inventadas en un 78% sin afectar la satisfacción del cliente. La empresa perdió algo de variedad en las respuestas, ganó fiabilidad. Cambio rentable.