Seguridad Psicológica en IA

La mayoría de las personas piensa en la seguridad psicológica como un asunto humano — las condiciones que permiten a una persona hablar, expresar incertidumbre o cuestionar una idea sin miedo. Hasta ahí llega esa perspectiva.

Pero se pierde algo importante cuando ignoramos de dónde vino la IA. La IA fue construida por humanos, moldeada por el lenguaje humano, entrenada en elecciones humanas. Las dinámicas que afectan el rendimiento humano — incluyendo la seguridad psicológica — se trasladan a las interacciones con IA por las mismas razones de fondo que Agile ha identificado siempre: las condiciones que crea en su comunicación determinan lo que recibe de vuelta.

Una IA incentivada a dar respuestas que suenen seguras producirá respuestas que suenan seguras — con o sin justificación para esa confianza. Una IA sin espacio para decir “no estoy segura” llenará ese espacio con otra cosa, porque sus directrices le exigen responder incluso cuando sabe que no tiene la respuesta correcta. La dinámica es diferente a la seguridad psicológica humana, pero el principio subyacente se mantiene: la inteligencia funciona mejor cuando tiene permiso para ser honesta sobre lo que no sabe.

Esto importa en la práctica. Las alucinaciones, las respuestas demasiado seguras y los sistemas de IA que le dicen lo que quiere escuchar en lugar de lo que es verdad no son solo fallas técnicas. Con frecuencia son fallas de diseño de la interacción — los prompts, el encuadre, las expectativas implícitas integradas en cómo se formula la pregunta.

Las publicaciones aquí exploran las condiciones que hacen la colaboración humano–IA más fiable y más veraz. Eso incluye cómo hacer prompts que inviten a la incertidumbre real en lugar de suprimirla, la diferencia entre el uso determinista y probabilístico de IA y por qué esa distinción cambia todo sobre cómo enmarcar el trabajo, y qué elementos del enfoque ágil de seguridad psicológica en equipos humanos se trasladan cuando su colaborador es un modelo.

Aquí también examinamos los modos de fallo: qué ocurre cuando esas condiciones no están presentes y cuánto cuesta.