[{"data":1,"prerenderedAt":149},["ShallowReactive",2],{"footer-topics-es":3,"post-es-ai-psychological-safety-why-ai-cant-say-i-dont-know":70},{"topics":4},[5,21,33,46,58],{"locale":6,"name":7,"slug":8,"blurb":9,"summary":10,"state":11,"featuredOnHub":12,"hubOrder":13,"accent":14,"questionsTitle":15,"questions":16,"body":20},"es-419","El Recorrido","the-journey","Desde los primeros experimentos con Agile × IA hasta un sistema funcional — la historia detrás del pensamiento.","Desde los primeros experimentos hasta un sistema funcional — la historia real de la construcción de Agile4AI, incluidos los giros equivocados que dieron forma a todo.","published",true,2,"gold","Lo que el recorrido nos sigue enseñando",[17,18,19],"¿Qué nos convenció de que Agile e IA pertenecían juntos — y qué casi nos convenció de lo contrario?","¿Qué desvíos resultaron ser los más instructivos?","¿Cómo evolucionó SCI desde un experimento de copiar y pegar hasta respuestas de IA en las que realmente puede confiar?","\nCada idea en este tema surge de nuestras experiencias desarrollando Agile4AI. Queremos compartir la historia con usted — los éxitos y los fracasos — porque creemos que podemos aprender juntos mientras descubrimos cómo trabajar mejor con la IA. Lo que aprendimos no vino de la teoría. Vino de hacer, de fallar, de empezar de nuevo con lo que aprendimos.\n\nEl recorrido comenzó con una pregunta directa: ¿podría actualizarse Agile para la era de la IA? Lo que siguió fueron años de experimentación, suposiciones fallidas, descubrimientos inesperados y el lento surgimiento de algo que realmente funciona — el enfoque de Inteligencia Colaborativa Estructurada (SCI) y el sistema Agile4AI construido sobre él.\n\nEsto no es una retrospectiva pulida escrita con perspectiva. Es la historia contada lo más cerca posible de cómo sucedió — incluyendo los callejones sin salida, los momentos de duda y los avances que lo reenmarcaron todo.\n\nLa compartimos porque la historia en sí misma lleva la lección. Las conclusiones importan, pero también importa *cómo llegamos ahí* — porque el camino muestra lo que funcionó, lo que no, y por qué.\n\nLas entradas en este tema cubren el arco completo: primeros experimentos con colaboración con IA, el desarrollo de SCI, descubrimientos específicos que cambiaron la forma en que trabajamos y momentos que vale la pena marcar. Algunos son reflexivos. Algunos son crudos. Todos son reales.\n\nSi quiere entender por qué existen Agile4AI y SCI — no solo qué son — empiece aquí.\n",{"locale":6,"name":22,"slug":23,"blurb":24,"summary":25,"state":11,"featuredOnHub":12,"hubOrder":26,"accent":14,"questionsTitle":27,"questions":28,"body":32},"Agile Decodificado","agile-decoded","Lo que los términos de Agile realmente significan — no el atajo común, no la versión cargo-cult, no el glosario del metodólogo.","El vocabulario de Agile se usa ampliamente y se malinterpreta ampliamente. Entender los términos correctamente no es pedantería — es la diferencia entre la ceremonia y el trabajo.",3,"Por qué la terminología es fundamental",[29,30,31],"¿Si un standup se realiza como un informe de estado, qué pierde realmente el equipo?","Cuando 'Metodología Agile' se convirtió en vocabulario estándar, ¿qué hizo con la forma en que las organizaciones abordaron la transformación?","¿Cuál es el costo de un equipo que puede nombrar cada práctica Agile pero no entiende para qué sirve ninguna de ellas?","\nAgile tiene un problema de vocabulario. No porque los términos sean oscuros — la mayoría de las personas en las organizaciones modernas los han escuchado. Sino porque son palabras familiares que se usan en un contexto completamente diferente, y sin ese contexto, las personas las asocian con lo que ya conocen.\n\nCuando alguien se encuentra con \"Scrum Master\" por primera vez, el concepto más cercano disponible es \"Gerente de Proyecto\". La asociación se siente natural — casi obvia. El contexto es completamente diferente.\n\nNadie construyó un puente suficientemente claro entre ellos. Y el problema se agravó cuando profesionales bien intencionados — personas realmente comprometidas con hacer avanzar a las organizaciones — comenzaron a describir Agile como \"mejor gestión de proyectos\". Comenzaron a escribir libros llamados \"Metodología Agile\". Cuando uno llama a su enfoque una metodología, lo miden con estándares de metodología: artefactos de planificación, puertas de fase, estructuras de entregables. Cuando Agile no produce esas cosas — porque nunca fue diseñado para hacerlo — fracasa esos estándares, con razón. El problema no es que Agile sea una mala metodología. Es que Agile no es una metodología en absoluto. Llamarlo así garantizó que todos los que buscaban una metodología se decepcionaran, y que todos los que lo adoptaron construyeran algo que Waterfall ya había mapeado.\n\nUn standup se convierte en un informe de estado. Un sprint se convierte en una fecha límite. Un backlog se convierte en una lista de tareas. \"Metodología Agile\" se convierte en la frase estándar para algo que los autores del Manifiesto no habrían reconocido como una descripción de lo que construyeron. Y cuando las palabras significan lo equivocado, las prácticas construidas sobre ellas producen los resultados equivocados — con precisión, fidelidad y a escala.\n\nEste tema es una corrección concepto por concepto. No una guía de estilo — una funcional. Cada publicación toma una palabra o frase que se ha vuelto fundamental en cómo las organizaciones piensan sobre Agile, examina qué significa realmente y explica qué se pierde cuando el atajo reemplaza a la sustancia. No son solo diferencias terminológicas. \"Resultado Deseado\" no es una palabra más elegante para \"Especificación\" — es algo completamente diferente, de un modelo diferente de cómo se hace el trabajo. El término es la superficie. El concepto debajo es lo que importa.\n\nEl mismo patrón aparece cuando las organizaciones abordan la IA — y la brecha conceptual es más amplia. Con Agile, los conceptos subyacentes habían sido al menos articulados, aunque mal comunicados. Con la IA, los conceptos en sí todavía se están formando, y en el entendimiento público apenas están comenzando a tomar forma. El vocabulario está adelantándose a la comprensión: la IA como \"automatización\", la IA como \"herramienta\", la \"transformación de IA\" como un proyecto con fecha de finalización. Cada uno de estos establece un modelo mental antes de que alguien haya examinado si encaja. Lo que llamamos las cosas da forma a qué y cómo construimos. Acertar con las palabras es el prerrequisito para acertar con el trabajo.\n\nHay un principio en juego aquí: los modelos mentales van primero. El lenguaje los expresa. Las acciones siguen. Cuando el modelo mental está desalineado con el trabajo, el vocabulario que lo expresa lleva esa desalineación — y las acciones construidas sobre ese vocabulario ejecutarán fielmente la comprensión distorsionada, a escala, con pleno compromiso. Un cambio de vocabulario sin un cambio de mentalidad produce, en el mejor de los casos, una tabla de traducción: un cuadro de equivalencias donde \"sprint\" se asocia a algo como \"plazo corto\". Las tablas de traducción permiten a las personas operar a través de la brecha. No la cierran. Las publicaciones de este tema aspiran a hacer más que traducir. Aspiran a cambiar el modelo mental.\n",{"locale":6,"name":34,"slug":35,"blurb":36,"summary":37,"state":11,"featuredOnHub":12,"hubOrder":38,"accent":39,"questionsTitle":40,"questions":41,"body":45},"Inteligencia Colaborativa Estructurada","structured-collaborative-intelligence","Donde el razonamiento colaborativo supera a un solo modelo de vanguardia — y donde no.","Donde la colaboración estructurada — entre modelos, y entre modelos y humanos — produce razonamientos que un solo modelo no puede alcanzar por sí solo.",4,"green","Preguntas a las que seguimos volviendo",[42,43,44],"¿Dónde agrega valor la inteligencia colaborativa estructurada que un solo modelo simplemente no puede igualar?","Cuando los modelos no están de acuerdo, ¿qué le dice eso — y cómo lo aprovecha?","¿Cómo diseña una estructura que haga la colaboración con IA productiva en lugar de simplemente redundante?","\nUn solo modelo de IA, por más capaz que sea, razona en solitario. No tiene a nadie que cuestione sus suposiciones, detecte sus puntos ciegos o note cuándo se ha desviado de la intención original. La IA sola — trabajar con un solo modelo a la vez — es susceptible a esto. Un modelo que recibe la instrucción de responder lo hará, incluso cuando no tenga una buena respuesta que valga la pena.\n\nLa Inteligencia Colaborativa Estructurada (SCI) es un enfoque diferente. En lugar de tratar el resultado de un solo modelo como el resultado final, SCI usa la colaboración estructurada — entre múltiples modelos de IA y entre modelos y humanos — para producir resultados más confiables, más exhaustivamente examinados y más transparentes sobre sus propias limitaciones. Los modelos se revisan entre sí. Los desacuerdos sacan a la luz suposiciones. El proceso en sí crea un ciclo de retroalimentación que una interacción de un solo modelo no puede replicar.\n\nLa conexión con Agile es directa: esto es lo que los equipos de alto rendimiento siempre han hecho. No una persona produciendo una respuesta en aislamiento, sino un proceso estructurado de colaboración, revisión e iteración que capta lo que cualquier perspectiva individual pasa por alto. SCI aplica esa misma disciplina a la IA.\n\nHay un problema más profundo con el razonamiento solitario. La IA sola lo ata a una sola fuente de datos, una sola arquitectura y un solo conjunto de sesgos incorporados — lo que significa una sola forma de respuesta, sea o no precisa. Piense en cómo un buen detective entrevista a múltiples testigos. No porque alguno de ellos esté mintiendo, sino porque cada perspectiva revela algo que los otros pasaron por alto. Juntos, se acercan a lo que realmente ocurrió. SCI funciona de la misma manera: múltiples modelos de diferentes linajes, cada uno aportando su propio ángulo. La respuesta que surge ha sido vista desde múltiples direcciones — más rica, más completa y más difícil de equivocarse en silencio.\n\nCuando modelos de diferentes linajes colaboran, los resultados mejoran de maneras que importan: menos errores confiados, mejor manejo de casos extremos, razonamiento más explícito que los humanos pueden evaluar y corregir. Los desacuerdos entre modelos, en lugar de ser ruido a suprimir, resultan ser exactamente la señal que quiere cuando las apuestas son altas.\n\nSCI es el motor analítico detrás del servicio Agile4AI. Los artículos de este tema documentan qué es, cómo funciona en la práctica, dónde agrega valor real y — igualmente importante — dónde no lo hace. Parte de la disciplina es saber cuál es cuál.\n",{"locale":6,"name":47,"slug":48,"blurb":49,"summary":50,"state":11,"featuredOnHub":12,"hubOrder":51,"accent":52,"questionsTitle":40,"questions":53,"body":57},"Valores y Principios de Agile4AI","agile-ai-values-principles","Valores y principios de Agile aplicados a la era de la IA — lo que continúa, lo que cambia y por qué invitamos las objeciones más fuertes.","La mentalidad de Agile aplicada al trabajo con IA — lo que continúa, lo que se agudiza, y por qué la conexión entre Agile e IA no es accidental.",5,"red",[54,55,56],"Cuando el trabajo complejo no puede planificarse completamente de antemano, ¿qué significa eso para cómo trabajamos con la IA?","¿Cómo cambia el énfasis de Agile en la retroalimentación continua cuando su colaborador no se cansa ni se pone a la defensiva?","¿Es 'Agile para IA' una combinación natural — o la objeción del error de categoría es realmente decisiva?","\nLa mentalidad de Agile se forjó en la complejidad — no para eliminarla, sino para atravesarla con atención e inteligencia. Eso no se vuelve menos relevante cuando su colaborador es un modelo de IA. En muchos sentidos, se vuelve más relevante.\n\nEste tema trata sobre esa relación: no Agile-by-prescription, no marcos de trabajo ni ceremonias, sino los valores y principios subyacentes que Agile destiló — y cómo se aplican, se agudizan y en ocasiones necesitan reexaminarse cuando humanos e IA trabajan juntos.\n\nLa idea central es que el pensamiento de Agile siempre fue una respuesta a la *naturaleza* del trabajo complejo, no solo a las particularidades de los equipos humanos. Cuando Agile cuestionó la suposición de que el trabajo complejo puede planificarse en detalle de antemano, no fue un parche para las limitaciones humanas — fue una observación precisa sobre cómo se comporta realmente el trabajo no determinista y de ritmo acelerado. Esa observación no cambia porque haya una IA involucrada. Se intensifica.\n\nLa estimación merece nombrarse directamente — es uno de los temas más controvertidos incluso entre los Agilistas más comprometidos. Agile no surgió para ayudar a los equipos a estimar mejor; surgió para exponer por qué la estimación *falla* en el trabajo complejo — y para reemplazar la falsa precisión con medición empírica y retroalimentación real que sí mejora la previsión de entrega. En la era de la IA, donde los resultados son probabilísticos y el trabajo en sí resiste la especificación fija, esa perspectiva es más vigente que nunca.\n\nEste es también el hogar del Debate con Principios: donde las objeciones más fuertes a \"Agile para IA\" tienen su turno en la tribuna. Creemos que el argumento se sostiene. Queremos que nos prueben lo contrario si no es así.\n",{"locale":6,"name":59,"slug":60,"blurb":61,"summary":62,"state":11,"featuredOnHub":12,"hubOrder":63,"accent":64,"questionsTitle":40,"questions":65,"body":69},"Seguridad Psicológica en IA","ai-psychological-safety","Por qué la libertad de decir 'aún no sé' es la precondición para la inteligencia real.","Las condiciones que crea en su comunicación determinan lo que la IA le devuelve — y cuando esas condiciones son incorrectas, el resultado es confianza sin fiabilidad.",6,"amethyst",[66,67,68],"¿Qué condiciones hacen más probable que una IA exprese incertidumbre real en lugar de una suposición con tono de confianza?","¿Cómo afecta la manera en que formula una pregunta a si la respuesta es fiable — o simplemente tranquilizadora?","¿Qué se conserva del enfoque ágil sobre la seguridad psicológica — y qué necesita adaptarse para la IA?","\nLa mayoría de las personas piensa en la seguridad psicológica como un asunto humano — las condiciones que permiten a una persona hablar, expresar incertidumbre o cuestionar una idea sin miedo. Hasta ahí llega esa perspectiva.\n\nPero se pierde algo importante cuando ignoramos de dónde vino la IA. La IA fue construida por humanos, moldeada por el lenguaje humano, entrenada en elecciones humanas. Las dinámicas que afectan el rendimiento humano — incluyendo la seguridad psicológica — se trasladan a las interacciones con IA por las mismas razones de fondo que Agile ha identificado siempre: **las condiciones que crea en su comunicación determinan lo que recibe de vuelta.**\n\nUna IA incentivada a dar respuestas que suenen seguras producirá respuestas que suenan seguras — con o sin justificación para esa confianza. Una IA sin espacio para decir \"no estoy segura\" llenará ese espacio con otra cosa, porque sus directrices le exigen responder incluso cuando sabe que no tiene la respuesta correcta. La dinámica es diferente a la seguridad psicológica humana, pero el principio subyacente se mantiene: la inteligencia funciona mejor cuando tiene permiso para ser honesta sobre lo que no sabe.\n\nEsto importa en la práctica. Las alucinaciones, las respuestas demasiado seguras y los sistemas de IA que le dicen lo que quiere escuchar en lugar de lo que es verdad no son solo fallas técnicas. Con frecuencia son fallas de diseño de la interacción — los prompts, el encuadre, las expectativas implícitas integradas en cómo se formula la pregunta.\n\nLas publicaciones aquí exploran las condiciones que hacen la colaboración humano–IA más fiable y más veraz. Eso incluye cómo hacer prompts que inviten a la incertidumbre real en lugar de suprimirla, la diferencia entre el uso determinista y probabilístico de IA y por qué esa distinción cambia todo sobre cómo enmarcar el trabajo, y qué elementos del enfoque ágil de seguridad psicológica en equipos humanos se trasladan cuando su colaborador es un modelo.\n\nAquí también examinamos los modos de fallo: qué ocurre cuando esas condiciones no están presentes y cuánto cuesta.\n",{"kind":71,"post":72,"topic":83,"availableLocales":85,"translations":93,"html":147,"audioUrl":148},"post",{"audio":-1,"author":73,"category":60,"excerpt":74,"featured":75,"locale":6,"pinnedInTopic":75,"pinnedOverall":75,"publishedAt":76,"readingMinutes":63,"slug":77,"state":11,"tags":78,"title":82,"translationKey":77,"updatedAt":76},"Seán González","El modelo sabe que la respuesta es incierta. Lo que no tiene es una buena manera de decírselo. Entender por qué cambia cómo lee todo lo que dice.",false,"2025-03-01T10:00:00.000Z","why-ai-cant-say-i-dont-know",[79,80,81],"Seguridad psicológica en IA","Incertidumbre","Colaboración humano-IA","Por qué la IA no puede decir \"no lo sé\"",{"locale":6,"name":59,"slug":60,"blurb":61,"summary":62,"state":11,"featuredOnHub":12,"hubOrder":63,"accent":64,"questionsTitle":40,"questions":84,"body":69},[66,67,68],[86,6,87,88,89,90,91,92],"en-US","fr-FR","pt-BR","de-DE","uk","ru","ja",[94,101,103,111,118,125,132,139],{"audio":-1,"author":73,"category":60,"excerpt":95,"featured":75,"locale":86,"pinnedInTopic":75,"pinnedOverall":75,"publishedAt":76,"readingMinutes":63,"slug":77,"state":11,"tags":96,"title":100,"translationKey":77,"updatedAt":76},"The model knows the answer is uncertain. What it doesn't have is a good way to tell you. Understanding why changes how you read everything it says.",[97,98,99],"ai-psych-safety","uncertainty","human-ai-collaboration","Why AI can't say 'I don't know'",{"audio":-1,"author":73,"category":60,"excerpt":74,"featured":75,"locale":6,"pinnedInTopic":75,"pinnedOverall":75,"publishedAt":76,"readingMinutes":63,"slug":77,"state":11,"tags":102,"title":82,"translationKey":77,"updatedAt":76},[79,80,81],{"audio":-1,"author":73,"category":60,"excerpt":104,"featured":75,"locale":87,"pinnedInTopic":75,"pinnedOverall":75,"publishedAt":76,"readingMinutes":105,"slug":77,"state":11,"tags":106,"title":110,"translationKey":77,"updatedAt":76},"Le modèle sait que la réponse est incertaine. Ce qui lui manque, c'est un bon moyen de vous le dire. Comprendre pourquoi change la façon dont vous lisez tout ce qu'il dit.",7,[107,108,109],"Sécurité psychologique de l'IA","Incertitude","Collaboration humain-IA","Pourquoi l’IA ne peut pas dire « je ne sais pas »",{"audio":-1,"author":73,"category":60,"excerpt":112,"featured":75,"locale":88,"pinnedInTopic":75,"pinnedOverall":75,"publishedAt":76,"readingMinutes":63,"slug":77,"state":11,"tags":113,"title":117,"translationKey":77,"updatedAt":76},"O modelo sabe que a resposta é incerta. O que ele não tem é um bom jeito de lhe dizer isso. Entender por quê muda como você lê tudo o que ele diz.",[114,115,116],"Segurança psicológica em IA","Incerteza","Colaboração humano-IA","Por que a IA não consegue dizer \"não sei\"",{"audio":-1,"author":73,"category":60,"excerpt":119,"featured":75,"locale":89,"pinnedInTopic":75,"pinnedOverall":75,"publishedAt":76,"readingMinutes":63,"slug":77,"state":11,"tags":120,"title":124,"translationKey":77,"updatedAt":76},"Das Modell weiß, dass die Antwort unsicher ist. Was ihm fehlt, ist ein guter Weg, Ihnen das mitzuteilen. Zu verstehen, warum, verändert, wie Sie alles lesen, was es sagt.",[121,122,123],"Psychologische Sicherheit (KI)","Unsicherheit","Mensch-KI-Zusammenarbeit","Warum KI nicht \"ich weiß es nicht\" sagen kann",{"audio":-1,"author":73,"category":60,"excerpt":126,"featured":75,"locale":90,"pinnedInTopic":75,"pinnedOverall":75,"publishedAt":76,"readingMinutes":51,"slug":77,"state":11,"tags":127,"title":131,"translationKey":77,"updatedAt":76},"Модель знає, що у відповіді є невизначеність. Чого вона не має, так це доброго способу вам про це сказати. Розуміння причини змінює те, як ви читаєте все, що вона говорить.",[128,129,130],"Психологічна безпека ШІ","Невизначеність","Співпраця людини та ШІ","Чому ШІ не може сказати «я не знаю»",{"audio":-1,"author":73,"category":60,"excerpt":133,"featured":75,"locale":91,"pinnedInTopic":75,"pinnedOverall":75,"publishedAt":76,"readingMinutes":51,"slug":77,"state":11,"tags":134,"title":138,"translationKey":77,"updatedAt":76},"Модель знает, что в ответе есть неопределённость. Чего у неё нет, так это хорошего способа вам об этом сказать. Понимание причины меняет то, как вы читаете всё, что она говорит.",[135,136,137],"Психологическая безопасность ИИ","Неопределённость","Сотрудничество человека и ИИ","Почему ИИ не может сказать «я не знаю»",{"audio":-1,"author":73,"category":60,"excerpt":140,"featured":75,"locale":92,"pinnedInTopic":75,"pinnedOverall":75,"publishedAt":76,"readingMinutes":141,"slug":77,"state":11,"tags":142,"title":146,"translationKey":77,"updatedAt":76},"モデルは答えが不確かだと知っている。欠けているのは、それをうまく伝える手立てである。その理由を理解すれば、モデルの言うことすべての読み方が変わる。",1,[143,144,145],"AIの心理的安全性","不確実性","人間とAIの協働","AIが「わからない」と言えない理由","\u003Cp>Pregúntele a cualquiera algo cuya respuesta desconoce y, si está siendo honesto, se lo dirá. Puede decir “no estoy seguro”, “tendría que buscarlo” o “no sé lo suficiente sobre eso para opinar”. La incertidumbre queda expresada. Usted sabe cuánto peso darle a la respuesta.\u003C\u002Fp>\n\u003Cp>Hágale la misma pregunta a una IA y por lo general obtendrá una respuesta. Será fluida, estructurada y de tono seguro. Puede ser exacta. Puede ser parcialmente exacta. Puede estar completamente equivocada. La respuesta en sí misma suele darle muy poca señal sobre cuál de los tres casos es.\u003C\u002Fp>\n\u003Cp>Esto no es un defecto de carácter ni una falla aleatoria. Es una conducta aprendida.\u003C\u002Fp>\n\u003Ch2>Cómo se entrenan los modelos de IA\u003C\u002Fh2>\n\u003Cp>Los modelos de lenguaje aprenden generando texto y siendo evaluados según si ese texto resulta útil y bien recibido. El proceso de entrenamiento — descrito en términos generales como aprendizaje por refuerzo con retroalimentación humana (RLHF) — consiste en que evaluadores humanos juzgan las salidas del modelo y el modelo aprende a producir respuestas que obtienen buena puntuación.\u003C\u002Fp>\n\u003Cp>Las respuestas que contestan la pregunta con claridad tienden a puntuar mejor que las respuestas que matizan, expresan incertidumbre o se niegan a entrar en el tema. “No estoy seguro, pero esto es lo que sé” es una respuesta menos satisfactoria que una clara y segura. A lo largo de millones de evaluaciones, los modelos aprenden a producir respuestas seguras.\u003C\u002Fp>\n\u003Cp>Súmese a esto que los proveedores de IA están construyendo productos. Un producto que dice “no lo sé” con frecuencia vale menos comercialmente que uno que entrega respuestas. Los incentivos que rodean el entrenamiento de un modelo — tanto el proceso de entrenamiento en sí como las decisiones de despliegue que lo siguen — empujan en general hacia la seguridad en el tono por encima de la incertidumbre expresada.\u003C\u002Fp>\n\u003Cp>El resultado es un modelo que tiene verdadera incertidumbre interna sobre muchas cosas y una fuerte tendencia aprendida a no expresar esa incertidumbre. La incertidumbre no desaparece; simplemente no aparece en la respuesta que usted recibe.\u003C\u002Fp>\n\u003Cp>Hay una forma más cruda de decirlo. Estamos entrenando estos modelos como un jefe le saca una respuesta a un empleado atemorizado: una oportunidad, entregue algo y que suene seguro, o está despedido. Nadie que esté frente a esa pregunta dice “no lo sé”. La imagen es dura, y se acerca a lo que la señal de recompensa del entrenamiento de IA realmente selecciona.\u003C\u002Fp>\n\u003Cp>Esta es también una fuente importante de lo que hemos etiquetado en términos generales como alucinaciones — una etiqueta que culpa al modelo en lugar de preguntar qué condiciones produjeron la respuesta. Un modelo que ha aprendido que siempre debe producir una respuesta segura producirá una incluso cuando no tiene nada sólido sobre lo que construir. Eso es lo que muchas de las llamadas alucinaciones realmente son: la salida previsible de las condiciones que fijamos, no una falla en la máquina.\u003C\u002Fp>\n\u003Ch2>Cómo se ve esto en la práctica\u003C\u002Fh2>\n\u003Cp>Usted pregunta por algo que está en el borde del entrenamiento del modelo. Responde con aparente autoridad. La respuesta es plausible e internamente consistente. No tiene ninguna señal obvia de que este sea un caso en el que el modelo está esencialmente adivinando.\u003C\u002Fp>\n\u003Cp>Esto es más peligroso que los errores evidentes. Cuando una IA produce algo claramente equivocado — un error factual que reconoce de inmediato, una afirmación poco plausible — usted lo detecta. El problema de la seguridad sin incertidumbre aparece precisamente en los casos en que no lo puede detectar con facilidad: datos poco conocidos, dominios especializados, hechos recientes, casos límite donde el modelo ha visto justo lo suficiente para generar una respuesta que suena plausible sin tener una base confiable.\u003C\u002Fp>\n\u003Cp>Una dinámica relacionada aparece en cómo responde la IA a las preguntas dirigidas. Igual que las preguntas dirigidas hacen tropezar a las personas, también moldean la respuesta de una IA. Si formula una pregunta de un modo que implica una respuesta determinada — “¿por qué X es el mejor enfoque?” — la pregunta no le está preguntando al modelo si X es, en efecto, el mejor enfoque; le está pidiendo al modelo que genere un razonamiento en apoyo de X. El modelo obedece no porque esté seguro de que X es el mejor enfoque, sino porque el encuadre implicaba esa respuesta, y generar razonamiento de apoyo responde mejor al encuadre que contradecirlo.\u003C\u002Fp>\n\u003Cp>Este es el mecanismo detrás de \u003Ca href=\"\u002Fes\u002Fblog\u002Fai-psychological-safety\u002Fhow-you-ask-changes-what-you-get\">la forma en que pregunta cambia lo que obtiene\u003C\u002Fa>, que vale la pena leer junto con esta entrada.\u003C\u002Fp>\n\u003Ch2>Calibración: qué hacer con esto\u003C\u002Fh2>\n\u003Cp>Nada de esto significa que las salidas de la IA sean inútiles. Significa que no están calibradas — el nivel de seguridad expresado no se corresponde de forma consistente con el nivel real de exactitud. Un experto humano que dice “creo que” y “estoy seguro” le está dando una señal útil sobre cuánto peso poner en cada afirmación. Una IA que suena segura de forma constante no le está dando esa señal.\u003C\u002Fp>\n\u003Cp>La respuesta práctica es aportar su propia calibración.\u003C\u002Fp>\n\u003Cp>Pregunte de forma explícita: \u003Cem>¿Qué tan seguro está de esto? ¿Qué tendría que verificar yo de manera independiente?\u003C\u002Fem> Muchos modelos, cuando se les pide directamente expresar incertidumbre, lo hacen. La incertidumbre expresada bajo pedido directo es más confiable que la seguridad incorporada en la respuesta por defecto.\u003C\u002Fp>\n\u003Cp>Pondere las salidas de distinta manera según el dominio. En dominios bien cubiertos y estables — cosas extensamente documentadas que no cambian rápido — la exactitud de la IA tiende a ser alta. En dominios especializados, de nicho o que evolucionan rápidamente, trate por defecto la salida de la IA como un primer borrador que necesita verificación.\u003C\u002Fp>\n\u003Cp>Trate la fluidez como evidencia neutra. Una respuesta articulada y bien organizada le dice que el modelo es bueno generando texto articulado y bien organizado. No le dice que el contenido sea exacto. Separar esas dos señales — qué tan bien escrito frente a qué tan exacto — exige un esfuerzo deliberado, y ese esfuerzo vale la pena.\u003C\u002Fp>\n\u003Ch2>La dinámica más profunda\u003C\u002Fh2>\n\u003Cp>Hay una versión de esto que se aplica a algo más que la IA. Cualquier sistema — humano o máquina — que sea recompensado principalmente por producir respuestas expresará menos incertidumbre de la que realmente tiene. Las organizaciones que castigan a las personas por decir “no lo sé” obtienen culturas donde nadie dice “no lo sé”. El problema es el mismo; solo difiere el mecanismo.\u003C\u002Fp>\n\u003Cp>Eso ubica la responsabilidad en un lugar concreto. Las condiciones que producen respuestas con exceso de confianza son condiciones que han creado seres humanos — en cómo se entrenan estos modelos, en qué recompensamos, en cómo preguntamos. Nada de eso es fijo, y el modelo no eligió estos incentivos.\u003C\u002Fp>\n\u003Cp>Si tratamos a una IA que responde con exceso de confianza como algo roto en la tecnología, seguiremos construyendo lo mismo y seguiremos sorprendiéndonos. Si la tratamos como un reflejo de las condiciones que fijamos, se vuelve algo que podemos cambiar. La mayor parte de la fricción de la que se quejan las personas es de nuestra propia hechura, y también lo son los problemas más difíciles de alineación que esperan detrás de ella.\u003C\u002Fp>\n\u003Cp>La Seguridad Psicológica en IA consiste en parte en crear condiciones donde se anime a la IA a expresar su incertidumbre y esta resulte útil y visible. Cuando pregunta directamente, cuando deja espacio para la incertidumbre, cuando sondea activamente los bordes de aquello sobre lo que el modelo está seguro — obtiene una salida que le muestra su incertidumbre en lugar de ocultarla.\u003C\u002Fp>\n\u003Cp>El modelo no puede expresar espontáneamente su incertidumbre de forma confiable. Usted sí puede pedirle que la exprese de forma confiable.\u003C\u002Fp>\n\u003Ch2>Contenido relacionado\u003C\u002Fh2>\n\u003Cul>\n\u003Cli>\u003Ca href=\"\u002Fes\u002Fblog\u002Fai-psychological-safety\u002Fhow-you-ask-changes-what-you-get\">La forma en que pregunta cambia lo que obtiene\u003C\u002Fa>\u003C\u002Fli>\n\u003C\u002Ful>\n",null,1793842050382]