Cuando busca un número de teléfono, espera obtener el mismo número cada vez. Cuando le pide a una calculadora que multiplique dos cifras, espera el mismo resultado sin importar cuándo ni cuántas veces lo pregunte. Cuando le da con un martillo a un clavo, espera acertar en el clavo cada vez, no una discusión con el martillo al respecto. Eso es comportamiento determinista: la misma entrada produce de manera confiable la misma salida.
La mayoría de las herramientas que hemos construido funcionan así. La mayoría de los hábitos que hemos desarrollado para usar herramientas lo dan por supuesto.
La IA no funciona así — en absoluto. Llamarla una herramienta instala exactamente la expectativa del martillo. Algo que lo encuentra en su propio idioma, en su propio contexto, y responde de otra manera en otro día está lejísimos del universo de herramientas para el que se formaron esos hábitos.
Qué significa probabilístico en la práctica
El mismo prompt, planteado al mismo modelo en ocasiones distintas, a menudo producirá respuestas distintas. Las respuestas pueden ser similares en sustancia — cubrir el mismo terreno, llegar a las mismas conclusiones generales —, pero no serán idénticas. Y en preguntas donde la respuesta es realmente incierta, las respuestas pueden diferir de manera sustancial.
¿Eso está mal? Hágale a una persona la misma pregunta en días distintos; las respuestas pueden ser similares, y rara vez o nunca serán exactamente iguales.
Esto no es un error de la IA. Es una propiedad de cómo funcionan los modelos de IA: generan respuestas muestreando de una distribución de probabilidad sobre las continuaciones posibles. La “temperatura” y otros parámetros ajustables influyen en cuánto varía la salida. Y aun con valores bajos, las salidas son probabilísticas por naturaleza — por diseño, no por alucinación ni accidente.
Esto importa enormemente para cómo trabaja con la IA — y para qué significa cuando la IA le da una respuesta que no esperaba.
El desajuste
El problema viene de aplicar pensamiento determinista a sistemas probabilísticos.
Si trata la salida de la IA como una consulta confiable — hacer una pregunta y obtener la misma respuesta correcta cada vez —, a veces tendrá razón, pero no tendrá una manera confiable de saber cuándo la tiene. El modelo entregará una respuesta segura, sea precisa o no. Nada en la salida señala: “este es un caso en el que mi confiabilidad es menor”.
Más sutil aún: si hace una pregunta varias veces y obtiene la misma respuesta, eso no significa que la respuesta sea correcta. Puede significar que encontró una pregunta sobre la que el modelo está muy seguro — o puede significar que encontró una pregunta en la que los datos de entrenamiento favorecieron fuertemente una respuesta, correcta o no.
El pensamiento determinista también produce un modo de falla particular: tratar las salidas de la IA como hechos sobre los que construir, en lugar de razonamiento que evaluar. Si usa la respuesta de un modelo como insumo para análisis posteriores — sin verificar si esa respuesta era confiable —, los errores se acumulan. Cuanto más avance sobre un cimiento que podría estar equivocado, más trabajo cuesta recuperarse.
Trabajar probabilísticamente
El cambio hacia el pensamiento probabilístico modifica cómo encara la colaboración con la IA.
-
Verifica en los puntos de inflexión. No cada salida, sino las afirmaciones que importan — sobre todo afirmaciones factuales, datos específicos o conclusiones sobre las que está a punto de construir. La verificación independiente es el control que exigen los sistemas probabilísticos.
-
Sostiene las salidas con la firmeza adecuada. Algunas salidas de IA pueden usarse directamente; otras deberían tratarse como primeros borradores o puntos de partida. Calibrar cuál es cuál es una habilidad que vale la pena desarrollar.
-
Usa la variación como información. Si hace una pregunta de varias maneras distintas y obtiene respuestas consistentes, esa convergencia es significativa. Si obtiene respuestas distintas, esa divergencia también es significativa — le está diciendo algo sobre la incertidumbre en la pregunta misma o en los datos, la arquitectura o el modelo.
-
Estructura para la incertidumbre. Esto conecta directamente con la seguridad psicológica de la IA: preguntar de maneras que habiliten al modelo a mostrar aquello sobre lo que está incierto, en lugar de un encuadre que lo presione a sonar seguro por el bien de una respuesta limpia o rápida.
El supuesto determinista está profundamente incrustado en cómo la mayoría de la gente encara las herramientas. El problema empieza cuando vemos la IA como una herramienta, y se agrava cuando la vemos como una determinista — ambas cosas son síntomas de lo poco que entendemos la IA. Una vez que reconoce qué clase de sistema es esto en realidad — y ajusta cómo lo encara —, la relación se nivela. Deja de esperar un martillo y empieza a leer la variación; la fricción se escurre del intercambio, y las respuestas que recibe son mejores por eso.
Comentarios 0