Temperature

Qué es

En el contexto de la Inteligencia Artificial y los Modelos de Lenguaje de Gran Escala (LLMs), la Temperature (o Temperatura) es un hiperparámetro de configuración que dicta qué tan 'arriesgada' o conservadora será la salida de texto del modelo. Aunque a menudo hablemos de la IA como si estuviera 'pensando', en realidad, está calculando probabilidades. Para cada palabra (o token) siguiente en un texto, el modelo genera una lista de candidatos con diferentes probabilidades de ocurrencia. La temperatura es el botón que ajusta esas probabilidades antes de la elección final.

Imagine la temperatura como un selector de libertad creativa. Si está baja, el modelo se comporta como un empleado extremadamente enfocado en reglas y hechos, que elige siempre la opción más obvia y segura. Si está elevada, el modelo se transforma en un colaborador en una sesión de brainstorming, dispuesto a elegir palabras menos probables para crear frases más variadas e inesperadas.

Cómo funciona

La temperatura funciona a través de una manipulación matemática de la distribución de probabilidad (normalmente a través de la función softmax). El valor varía típicamente entre 0 y 1, aunque algunos sistemas permiten valores hasta 2.

Cuando la temperatura es 0 (o cercana a cero), decimos que el modelo se vuelve 'determinista'. Elegirá casi siempre el token con la probabilidad más alta. Si pregunta '¿Cuál es la capital de Portugal?' diez veces, obtendrá diez veces la misma respuesta corta y directa. El modelo no arriesga.

A medida que aumentamos la temperatura a valores como 0.7 o 1.0, la diferencia entre la palabra más probable y las restantes disminuye. El modelo 'aplana' la curva de probabilidades, dando oportunidades a palabras que, de otra forma, serían descartadas. Esto introduce variedad lingüística, pero también aumenta el riesgo de que el modelo se desvíe del asunto o invente hechos, un fenómeno conocido como alucinación.

Cuándo usar

La elección de la temperatura ideal depende enteramente de la tarea que su PYME pretenda automatizar. No existe un valor 'correcto' absoluto, solo el valor adecuado al contexto.

Temperatura Baja (0.0 a 0.3): Tareas de Precisión Debe usar estos valores cuando la exactitud es prioritaria y no quiere sorpresas en el formato o en el contenido. Ejemplos típicos incluyen:

• Extracción de datos de facturas o contratos.
• Clasificación de tickets de soporte (ej: decidir si un email es 'Reclamación' o 'Solicitud de Presupuesto').
• Escritura de código de programación o scripts SQL.
• Respuestas de FAQ basadas estrictamente en un documento técnico.

Temperatura Media (0.4 a 0.7): Equilibrio y Fluidez Ideal para tareas que exigen una escritura natural, pero que aún así necesitan mantener una estructura lógica coherente. Ejemplos:

• Redacción de emails comerciales personalizados.
• Resumen de reuniones o artículos largos.
• Creación de descripciones de productos para un e-commerce.

Temperatura Alta (0.8 a 1.2+): Creatividad y Exploración Use valores altos cuando el objetivo es la originalidad y la diversidad de ideas. Ejemplos:

• Generación de eslóganes para una campaña de marketing.
• Ideación de nuevos nombres para una marca o proyecto.
• Escritura creativa, como guiones o poesía.

Errores comunes

El error más frecuente en las PYMES que comienzan a implementar IA es ignorar este parámetro, dejándolo en el valor por defecto (generalmente 0.7 o 1.0) para todas las tareas. Esto conlleva dos problemas principales:

1. Inconsistencia en Procesos Rígidos: Si está usando IA para clasificar leads en un CRM y la temperatura está alta, el modelo puede inventar nuevas categorías de clasificación que no existen en su sistema, rompiendo la automatización siguiente.

2. Alucinaciones Factuales: Al pedir un resumen de un informe financiero con temperatura elevada, el modelo puede sentirse tentado a 'rellenar los huecos' con números que parecen plausibles pero son falsos, solo porque la matemática de la temperatura lo obligó a elegir tokens menos probables pero estéticamente agradables.

Otro error es creer que una temperatura de 0 garantiza 100% de verdad. La temperatura 0 solo garantiza que el modelo elige su mejor apuesta; si el modelo ha aprendido información errónea o no tiene acceso a los datos correctos, continuará dando la respuesta incorrecta, pero lo hará de forma consistente.

Ejemplo práctico para una PYME

Imagine una consultora inmobiliaria en Madrid que utiliza un asistente de IA para dos funciones distintas:

Escenario A: Análisis de Contratos La empresa usa un script que lee contratos de alquiler y extrae la fecha de vencimiento y el valor de la renta. Aquí, el desarrollador configura la Temperatura en 0.0. Esto garantiza que, si el contrato dice '1200€', la IA extrae exactamente '1200€' y no decide escribir 'Mil doscientos euros' o redondear el valor, facilitando la inserción automática en el software de gestión.

Escenario B: Redes Sociales La misma empresa necesita ideas de pies de foto para Instagram sobre un nuevo apartamento en el barrio de Salamanca. El gestor de marketing configura la Temperatura en 0.9. El resultado son tres o cuatro opciones con tonos diferentes: una más emocional, una enfocada en la inversión y otra más corta y moderna. Esta variedad permite al equipo elegir la que mejor se adapta a la audiencia, algo que una temperatura baja (que produciría frases muy genéricas y repetitivas) no conseguiría.

Preguntas frecuentes

Q: ¿Puedo cambiar la temperatura a mitad de una conversación con el chat? R: En la mayoría de las interfaces de chat comunes (como las versiones básicas de ChatGPT), el usuario no tiene control directo sobre este parámetro. Sin embargo, en herramientas profesionales, APIs o interfaces personalizadas para empresas, es posible (y recomendable) definir la temperatura para cada tipo de solicitud.

Q: ¿La temperatura afecta el costo de utilización de la IA? R: No. El costo (tokens procesados) es el mismo independientemente de la temperatura definida. Solo cambia la lógica de selección de las palabras, no el esfuerzo computacional necesario para generarlas.

Q: ¿Si quiero que la IA nunca mienta, debo usar temperatura 0? R: No necesariamente. La temperatura 0 reduce la probabilidad de que el modelo 'invente' por vía de la aleatoriedad, pero la prevención de falsedades reales (alucinaciones) se resuelve mejor con técnicas como RAG (Retrieval-Augmented Generation), proporcionando los datos correctos al contexto del modelo.

Q: ¿Qué sucede si pongo la temperatura en 2.0? R: En la mayoría de los modelos modernos, el texto se vuelve completamente ininteligible. Las probabilidades se dispersan tanto que el modelo comienza a elegir caracteres aleatorios, puntuación sin sentido o palabras que no existen, haciendo que la respuesta sea inútil.

• 01Configurar la temperatura en 0.0 al extraer NIFs y valores totales de imágenes de facturas digitalizadas vía OCR.
• 02Usar temperatura 0.8 para generar diez variaciones de nombres creativos para un nuevo vino de una bodega regional.
• 03Mantener la temperatura en 0.3 para responder a dudas técnicas de clientes basadas en el manual de instrucciones del producto.
• 04Ajustar la temperatura a 1.0 para crear un borrador de un post de blog con un tono de voz entusiasta y dinámico.

Quer usar Temperature na sua empresa?

30 minutos, gratuito, sem compromisso. Dizemos onde encaixa.

Diagnóstico IA gratuito