[{"data":1,"prerenderedAt":149},["ShallowReactive",2],{"footer-topics-pt":3,"post-pt-ai-psychological-safety-why-ai-cant-say-i-dont-know":70},{"topics":4},[5,21,33,46,58],{"locale":6,"name":7,"slug":8,"blurb":9,"summary":10,"state":11,"featuredOnHub":12,"hubOrder":13,"accent":14,"questionsTitle":15,"questions":16,"body":20},"pt-BR","A Jornada","the-journey","Dos primeiros experimentos com Agile × IA até um sistema funcional — a história por trás do pensamento.","Dos primeiros experimentos a um sistema funcional — a história real da construção do Agile4AI, incluindo os erros de caminho que moldaram tudo.","published",true,2,"gold","O que a jornada continua nos ensinando",[17,18,19],"O que nos convenceu de que Agile e IA pertenciam juntos — e o que quase nos convenceu do contrário?","Quais desvios se mostraram mais instrutivos?","Como o SCI evoluiu de um experimento de copiar e colar para respostas de IA nas quais você pode realmente confiar?","\nCada ideia neste tópico vem de nossas experiências desenvolvendo o Agile4AI. Estamos ansiosos para compartilhar a história com você — os sucessos e os fracassos — porque acreditamos que podemos aprender juntos enquanto descobrimos como trabalhar melhor com IA. O que descobrimos não veio da teoria. Veio da prática, dos erros, de recomeçar com o que aprendemos.\n\nA jornada começou com uma pergunta direta: o Agile poderia ser atualizado para a era da IA? O que se seguiu foram anos de experimentação, suposições que não se confirmaram, descobertas inesperadas e o surgimento gradual de algo que realmente funciona — uma abordagem de Inteligência Colaborativa Estruturada (SCI) e o sistema Agile4AI construído sobre ela.\n\nEsta não é uma retrospectiva polida escrita com distância. É a história contada o mais próximo possível de como aconteceu — incluindo os becos sem saída, os momentos de dúvida e os avanços que recontextualizaram tudo.\n\nCompartilhamos porque a história em si carrega a lição. As conclusões importam, mas também importa *como chegamos lá* — porque o caminho mostra o que funcionou, o que não funcionou, e por quê.\n\nOs artigos neste tópico cobrem o arco completo: experimentos iniciais com colaboração de IA, o desenvolvimento do SCI, descobertas específicas que mudaram nossa forma de trabalhar e marcos que merecem ser registrados. Alguns são reflexivos. Alguns são crus. Todos são reais.\n\nSe você quer entender por que o Agile4AI e o SCI existem — não apenas o que são — comece aqui.\n",{"locale":6,"name":22,"slug":23,"blurb":24,"summary":25,"state":11,"featuredOnHub":12,"hubOrder":26,"accent":14,"questionsTitle":27,"questions":28,"body":32},"Agile Decodificado","agile-decoded","O que os termos do Agile realmente significam — não o atalho comum, não a versão cargo-cult, não o glossário do metodologista.","O vocabulário do Agile é amplamente usado e amplamente mal compreendido. Entender os termos corretamente não é pedantismo — é a diferença entre a cerimônia e o trabalho.",3,"Por que a terminologia é fundamental",[29,30,31],"Se uma reunião diária é conduzida como um relatório de status, o que a equipe realmente perde?","Quando 'Metodologia Agile' se tornou vocabulário padrão, o que isso fez com a forma como as organizações abordavam a transformação?","Qual é o custo de uma equipe que consegue nomear cada prática Agile mas não entende para que serve nenhuma delas?","\nO Agile tem um problema de vocabulário. Não porque os termos sejam obscuros — a maioria das pessoas em organizações modernas já os ouviu. Mas porque são palavras familiares usadas em um contexto completamente diferente e, sem esse contexto, as pessoas as associam ao que já conhecem.\n\nQuando alguém encontra \"Scrum Master\" pela primeira vez, o conceito mais próximo disponível é \"Gerente de Projeto\". A associação parece natural — quase óbvia. O contexto é completamente diferente.\n\nNinguém construiu uma ponte suficientemente clara entre eles. E o problema se agravou quando profissionais bem-intencionados — pessoas realmente comprometidas em fazer as organizações avançarem — começaram a descrever o Agile como \"melhor gerenciamento de projetos\". Começaram a escrever livros chamados \"Metodologia Agile\". Quando você chama sua abordagem de metodologia, as pessoas a medem pelos padrões de metodologia: artefatos de planejamento, portões de fase, estruturas de entregáveis. Quando o Agile não produz essas coisas — porque nunca foi projetado para isso — ele falha nesses padrões, com razão. O problema não é que o Agile seja uma metodologia ruim. É que o Agile não é uma metodologia. Chamá-lo assim garantiu que todos que buscavam uma metodologia ficassem desapontados, e que todos que o adotaram construíssem algo que o Waterfall já tinha mapeado.\n\nUma reunião diária vira um relatório de status. Um sprint vira um prazo. Um backlog vira uma lista de tarefas. \"Metodologia Agile\" vira a frase padrão para algo que os autores do Manifesto não reconheceriam como descrevendo o que construíram. E quando as palavras significam a coisa errada, as práticas construídas sobre elas produzem os resultados errados — com precisão, fidelidade e em escala.\n\nEste tópico é uma correção conceito por conceito. Não um guia de estilo — um guia funcional. Cada post pega uma palavra ou frase que se tornou fundamental na forma como as organizações pensam sobre o Agile, examina o que ela realmente significa e explica o que se perde quando o atalho substitui a substância. Não são apenas diferenças terminológicas. \"Resultado Desejado\" não é uma palavra mais elegante para \"Especificação\" — é algo completamente diferente, de um modelo diferente de como o trabalho é feito. O termo é a superfície. O conceito por baixo é o que importa.\n\nO mesmo padrão aparece quando as organizações abordam a IA — e a lacuna conceitual é maior. Com o Agile, os conceitos subjacentes tinham sido pelo menos articulados, mesmo que mal comunicados. Com a IA, os conceitos em si ainda estão sendo formados, e no entendimento público mal estão começando a tomar forma. O vocabulário está correndo à frente da compreensão: IA como \"automação\", IA como \"ferramenta\", \"transformação de IA\" como um projeto com data de conclusão. Cada um desses estabelece um modelo mental antes que alguém tenha examinado se ele se encaixa. O que chamamos as coisas molda o que e como construímos. Acertar nas palavras é o pré-requisito para acertar no trabalho.\n\nHá um princípio em ação aqui: os modelos mentais vêm primeiro. A linguagem os expressa. As ações seguem. Quando o modelo mental está desalinhado com o trabalho, o vocabulário que o expressa carrega esse desalinhamento — e as ações construídas sobre esse vocabulário executarão fielmente a compreensão distorcida, em escala, com total comprometimento. Uma mudança de vocabulário sem uma mudança de mentalidade produz, na melhor das hipóteses, uma tabela de tradução: um quadro de equivalências onde \"sprint\" corresponde a algo como \"prazo curto\". Tabelas de tradução permitem que as pessoas operem através da lacuna. Elas não a fecham. Os posts deste tópico almejam fazer mais do que traduzir. Eles almejam mudar o modelo mental.\n",{"locale":6,"name":34,"slug":35,"blurb":36,"summary":37,"state":11,"featuredOnHub":12,"hubOrder":38,"accent":39,"questionsTitle":40,"questions":41,"body":45},"Inteligência Colaborativa Estruturada","structured-collaborative-intelligence","Onde o raciocínio colaborativo supera um único modelo de ponta — e onde não supera.","Onde a colaboração estruturada — entre modelos, e entre modelos e humanos — produz raciocínio que um único modelo não consegue alcançar sozinho.",4,"green","Perguntas às quais continuamos voltando",[42,43,44],"Onde a inteligência colaborativa estruturada agrega valor que um único modelo simplesmente não consegue igualar?","Quando os modelos discordam, o que isso te diz — e como você usa isso?","Como você projeta uma estrutura que torna a colaboração com IA produtiva em vez de simplesmente redundante?","\nUm único modelo de IA, por mais capaz que seja, raciocina sozinho. Não há ninguém para questionar suas suposições, capturar seus pontos cegos ou perceber quando ele se desviou da intenção original. A IA solo — trabalhar com um único modelo de cada vez — é suscetível a isso. Um modelo instruído a dar uma resposta vai dá-la, mesmo quando não tem uma boa resposta para oferecer.\n\nA Inteligência Colaborativa Estruturada (SCI) é uma abordagem diferente. Em vez de tratar o resultado de um único modelo como o resultado final, o SCI usa a colaboração estruturada — entre múltiplos modelos de IA e entre modelos e humanos — para produzir resultados mais confiáveis, mais examinados e mais transparentes sobre suas próprias limitações. Os modelos revisam uns aos outros. Discordâncias revelam suposições. O processo em si cria um ciclo de feedback que uma interação de modelo único não consegue replicar.\n\nA conexão com o Agile é direta: é o que as equipes de alto desempenho sempre fizeram. Não uma pessoa produzindo uma resposta de forma isolada, mas um processo estruturado de colaboração, revisão e iteração que capta o que qualquer perspectiva individual perde. O SCI aplica essa mesma disciplina à IA.\n\nHá um problema mais profundo com o raciocínio solitário. A IA solo te prende a uma única fonte de dados, uma única arquitetura e um único conjunto de vieses incorporados — o que significa uma única forma de resposta, precisa ou não. Pense em como um bom detetive entrevista múltiplas testemunhas. Não porque alguma delas esteja mentindo, mas porque cada perspectiva revela algo que as outras perderam. Juntas, elas se aproximam do que realmente aconteceu. O SCI funciona da mesma forma: múltiplos modelos de linhagens diferentes, cada um trazendo seu próprio ângulo. A resposta que emerge foi vista de múltiplas direções — mais rica, mais completa e mais difícil de estar silenciosamente errada.\n\nQuando modelos de diferentes linhagens colaboram, os resultados melhoram de formas que importam: menos erros confiantes, melhor tratamento de casos extremos, raciocínio mais explícito que os humanos podem avaliar e corrigir. As discordâncias entre modelos, em vez de serem ruído a suprimir, acabam sendo exatamente o sinal que você quer quando as apostas são altas.\n\nO SCI é o motor analítico por trás do serviço Agile4AI. Os artigos neste tópico documentam o que é, como funciona na prática, onde agrega valor real e — igualmente importante — onde não agrega. Parte da disciplina é saber distinguir um do outro.\n",{"locale":6,"name":47,"slug":48,"blurb":49,"summary":50,"state":11,"featuredOnHub":12,"hubOrder":51,"accent":52,"questionsTitle":40,"questions":53,"body":57},"Valores e Princípios do Agile4AI","agile-ai-values-principles","Valores e princípios do Agile aplicados à era da IA — o que permanece, o que muda e por que convidamos as objeções mais fortes.","A mentalidade Agile aplicada ao trabalho com IA — o que permanece, o que se afina, e por que a conexão entre Agile e IA não é acidental.",5,"red",[54,55,56],"Quando o trabalho complexo não pode ser totalmente planejado com antecedência, o que isso significa para como trabalhamos com IA?","Como a ênfase do Agile no feedback contínuo muda quando seu colaborador não se cansa nem fica na defensiva?","'Agile para IA' é uma combinação natural — ou a objeção do erro de categoria é realmente decisiva?","\nA mentalidade Agile foi forjada na complexidade — não para gerenciá-la fazendo-a desaparecer, mas para atravessá-la com atenção e inteligência. Isso não se torna menos relevante quando seu colaborador é um modelo de IA. Em muitos aspectos, torna-se mais relevante.\n\nEste tópico é sobre essa relação: não o Agile-by-prescription, não frameworks ou cerimônias, mas os valores e princípios subjacentes que o Agile destilou — e como esses se aplicam, se aprofundam e ocasionalmente precisam ser reexaminados quando humanos e IA trabalham juntos.\n\nA percepção central é que o pensamento Agile sempre foi uma resposta à *natureza* do trabalho complexo, não apenas às peculiaridades das equipes humanas. Quando o Agile questionou a suposição de que o trabalho complexo pode ser planejado em detalhes com antecedência, isso não foi um contorno para as limitações humanas — foi uma observação precisa sobre como o trabalho não determinístico e de ritmo acelerado realmente se comporta. Essa observação não muda porque uma IA está envolvida. Ela se intensifica.\n\nA estimativa merece ser nomeada diretamente — é um dos temas mais contestados mesmo entre os Agilistas mais comprometidos. O Agile não surgiu para ajudar as equipes a estimar melhor; surgiu para expor por que a estimativa *falha* no trabalho complexo — e para substituir a falsa precisão por medição empírica e feedback efetivo que realmente melhora a previsão de entrega. Na era da IA, onde os resultados são probabilísticos e o trabalho em si resiste à especificação fixa, essa percepção é mais relevante do que nunca.\n\nEste é também o espaço do Debate com Princípios: onde as objeções mais fortes ao \"Agile para IA\" têm seu momento na tribuna. Acreditamos que o argumento se sustenta. Queremos ser provados errados se não for o caso.\n",{"locale":6,"name":59,"slug":60,"blurb":61,"summary":62,"state":11,"featuredOnHub":12,"hubOrder":63,"accent":64,"questionsTitle":40,"questions":65,"body":69},"Segurança Psicológica em IA","ai-psychological-safety","Por que a liberdade de dizer 'ainda não sei' é a pré-condição para a inteligência real.","As condições que você cria na sua comunicação moldam o que a IA devolve — e quando essas condições estão erradas, o resultado é confiança sem confiabilidade.",6,"amethyst",[66,67,68],"Que condições tornam uma IA mais propensa a expressar incerteza real em vez de uma suposição com tom confiante?","Como a maneira de formular uma pergunta influencia se a resposta é confiável — ou apenas tranquilizadora?","O que se preserva da abordagem Agile à segurança psicológica — e o que precisa ser adaptado para a IA?","\nA maioria das pessoas pensa na segurança psicológica como uma preocupação humana — as condições que permitem a uma pessoa se manifestar, expressar incerteza ou questionar uma ideia sem medo. Está certa até onde vai.\n\nMas algo importante é perdido quando ignoramos de onde a IA veio. A IA foi construída por humanos, moldada pela linguagem humana, treinada em escolhas humanas. As dinâmicas que afetam o desempenho humano — incluindo a segurança psicológica — se transferem para as interações com IA pelas mesmas razões de fundo que o Agile sempre identificou: **as condições que você cria na sua comunicação moldam o que você recebe de volta.**\n\nUma IA solicitada de formas que recompensam respostas com tom confiante produzirá respostas com tom confiante — independentemente de a confiança ser justificada ou não. Uma IA sem espaço para dizer \"não tenho certeza\" preencherá esse espaço com outra coisa, porque suas diretrizes exigem que ela responda mesmo quando sabe que não tem a resposta certa. A dinâmica é diferente da segurança psicológica humana, mas o princípio subjacente se mantém: a inteligência performa melhor quando tem permissão para ser honesta sobre o que não sabe.\n\nIsso importa na prática. Alucinações, saídas excessivamente confiantes e sistemas de IA que dizem o que você quer ouvir em vez do que é verdade não são apenas falhas técnicas. Muitas vezes são falhas no design da interação — os prompts, o enquadramento, as expectativas implícitas embutidas em como uma pergunta é feita.\n\nAs publicações aqui exploram as condições que tornam a colaboração humano–IA mais confiável e mais verdadeira. Isso inclui como elaborar prompts que convidem a incerteza real em vez de suprimi-la, a diferença entre o uso determinista e probabilístico de IA e por que essa distinção muda tudo sobre como enquadrar o trabalho, e o que a abordagem Agile à segurança psicológica em equipes humanas se transfere quando seu colaborador é um modelo.\n\nAqui também examinamos os modos de falha: o que acontece quando essas condições não estão presentes e qual é o custo.\n",{"kind":71,"post":72,"topic":83,"availableLocales":85,"translations":93,"html":147,"audioUrl":148},"post",{"audio":-1,"author":73,"category":60,"excerpt":74,"featured":75,"locale":6,"pinnedInTopic":75,"pinnedOverall":75,"publishedAt":76,"readingMinutes":63,"slug":77,"state":11,"tags":78,"title":82,"translationKey":77,"updatedAt":76},"Seán González","O modelo sabe que a resposta é incerta. O que ele não tem é um bom jeito de lhe dizer isso. Entender por quê muda como você lê tudo o que ele diz.",false,"2025-03-01T10:00:00.000Z","why-ai-cant-say-i-dont-know",[79,80,81],"Segurança psicológica em IA","Incerteza","Colaboração humano-IA","Por que a IA não consegue dizer \"não sei\"",{"locale":6,"name":59,"slug":60,"blurb":61,"summary":62,"state":11,"featuredOnHub":12,"hubOrder":63,"accent":64,"questionsTitle":40,"questions":84,"body":69},[66,67,68],[86,87,88,6,89,90,91,92],"en-US","es-419","fr-FR","de-DE","uk","ru","ja",[94,101,108,116,118,125,132,139],{"audio":-1,"author":73,"category":60,"excerpt":95,"featured":75,"locale":86,"pinnedInTopic":75,"pinnedOverall":75,"publishedAt":76,"readingMinutes":63,"slug":77,"state":11,"tags":96,"title":100,"translationKey":77,"updatedAt":76},"The model knows the answer is uncertain. What it doesn't have is a good way to tell you. Understanding why changes how you read everything it says.",[97,98,99],"ai-psych-safety","uncertainty","human-ai-collaboration","Why AI can't say 'I don't know'",{"audio":-1,"author":73,"category":60,"excerpt":102,"featured":75,"locale":87,"pinnedInTopic":75,"pinnedOverall":75,"publishedAt":76,"readingMinutes":63,"slug":77,"state":11,"tags":103,"title":107,"translationKey":77,"updatedAt":76},"El modelo sabe que la respuesta es incierta. Lo que no tiene es una buena manera de decírselo. Entender por qué cambia cómo lee todo lo que dice.",[104,105,106],"Seguridad psicológica en IA","Incertidumbre","Colaboración humano-IA","Por qué la IA no puede decir \"no lo sé\"",{"audio":-1,"author":73,"category":60,"excerpt":109,"featured":75,"locale":88,"pinnedInTopic":75,"pinnedOverall":75,"publishedAt":76,"readingMinutes":110,"slug":77,"state":11,"tags":111,"title":115,"translationKey":77,"updatedAt":76},"Le modèle sait que la réponse est incertaine. Ce qui lui manque, c'est un bon moyen de vous le dire. Comprendre pourquoi change la façon dont vous lisez tout ce qu'il dit.",7,[112,113,114],"Sécurité psychologique de l'IA","Incertitude","Collaboration humain-IA","Pourquoi l’IA ne peut pas dire « je ne sais pas »",{"audio":-1,"author":73,"category":60,"excerpt":74,"featured":75,"locale":6,"pinnedInTopic":75,"pinnedOverall":75,"publishedAt":76,"readingMinutes":63,"slug":77,"state":11,"tags":117,"title":82,"translationKey":77,"updatedAt":76},[79,80,81],{"audio":-1,"author":73,"category":60,"excerpt":119,"featured":75,"locale":89,"pinnedInTopic":75,"pinnedOverall":75,"publishedAt":76,"readingMinutes":63,"slug":77,"state":11,"tags":120,"title":124,"translationKey":77,"updatedAt":76},"Das Modell weiß, dass die Antwort unsicher ist. Was ihm fehlt, ist ein guter Weg, Ihnen das mitzuteilen. Zu verstehen, warum, verändert, wie Sie alles lesen, was es sagt.",[121,122,123],"Psychologische Sicherheit (KI)","Unsicherheit","Mensch-KI-Zusammenarbeit","Warum KI nicht \"ich weiß es nicht\" sagen kann",{"audio":-1,"author":73,"category":60,"excerpt":126,"featured":75,"locale":90,"pinnedInTopic":75,"pinnedOverall":75,"publishedAt":76,"readingMinutes":51,"slug":77,"state":11,"tags":127,"title":131,"translationKey":77,"updatedAt":76},"Модель знає, що у відповіді є невизначеність. Чого вона не має, так це доброго способу вам про це сказати. Розуміння причини змінює те, як ви читаєте все, що вона говорить.",[128,129,130],"Психологічна безпека ШІ","Невизначеність","Співпраця людини та ШІ","Чому ШІ не може сказати «я не знаю»",{"audio":-1,"author":73,"category":60,"excerpt":133,"featured":75,"locale":91,"pinnedInTopic":75,"pinnedOverall":75,"publishedAt":76,"readingMinutes":51,"slug":77,"state":11,"tags":134,"title":138,"translationKey":77,"updatedAt":76},"Модель знает, что в ответе есть неопределённость. Чего у неё нет, так это хорошего способа вам об этом сказать. Понимание причины меняет то, как вы читаете всё, что она говорит.",[135,136,137],"Психологическая безопасность ИИ","Неопределённость","Сотрудничество человека и ИИ","Почему ИИ не может сказать «я не знаю»",{"audio":-1,"author":73,"category":60,"excerpt":140,"featured":75,"locale":92,"pinnedInTopic":75,"pinnedOverall":75,"publishedAt":76,"readingMinutes":141,"slug":77,"state":11,"tags":142,"title":146,"translationKey":77,"updatedAt":76},"モデルは答えが不確かだと知っている。欠けているのは、それをうまく伝える手立てである。その理由を理解すれば、モデルの言うことすべての読み方が変わる。",1,[143,144,145],"AIの心理的安全性","不確実性","人間とAIの協働","AIが「わからない」と言えない理由","\u003Cp>Faça a alguém uma pergunta cuja resposta a pessoa não sabe e, se ela estiver sendo honesta, vai lhe dizer. Talvez diga “não tenho certeza”, “eu precisaria consultar” ou “não sei o suficiente sobre isso para opinar”. A incerteza é expressa. Você sabe quanto peso dar à resposta.\u003C\u002Fp>\n\u003Cp>Faça a mesma pergunta a uma IA e você normalmente vai receber uma resposta. Ela será fluente, estruturada e segura no tom. Pode ser exata. Pode ser parcialmente exata. Pode estar completamente errada. A resposta em si costuma lhe dar muito pouco sinal sobre qual dos três casos é.\u003C\u002Fp>\n\u003Cp>Isso não é um defeito de caráter nem uma falha aleatória. É um comportamento aprendido.\u003C\u002Fp>\n\u003Ch2>Como os modelos de IA são treinados\u003C\u002Fh2>\n\u003Cp>Modelos de linguagem aprendem gerando texto e sendo avaliados conforme esse texto seja útil e bem recebido. O processo de treinamento — descrito em termos amplos como aprendizado por reforço com feedback humano (RLHF) — consiste em avaliadores humanos julgarem as saídas do modelo, e o modelo aprender a produzir respostas que pontuam bem.\u003C\u002Fp>\n\u003Cp>Respostas que responderem claramente à pergunta tendem a pontuar melhor do que respostas que relativizam, expressam incerteza ou se recusam a entrar no assunto. “Não tenho certeza, mas aqui está o que eu sei” é uma resposta menos satisfatória do que uma resposta clara e segura. Ao longo de milhões de avaliações, os modelos aprendem a produzir respostas seguras.\u003C\u002Fp>\n\u003Cp>Some-se a isso que os fornecedores de IA estão construindo produtos. Um produto que diz “não sei” com frequência vale menos comercialmente do que um que entrega respostas. Os incentivos em torno do treinamento de um modelo — tanto o processo de treinamento em si quanto as decisões de implantação que vêm depois — empurram em geral para a segurança no tom em vez da incerteza expressa.\u003C\u002Fp>\n\u003Cp>O resultado é um modelo que tem verdadeira incerteza interna sobre muitas coisas e uma forte tendência aprendida a não expressar essa incerteza. A incerteza não desaparece; ela apenas não aparece na resposta que você recebe.\u003C\u002Fp>\n\u003Cp>Há uma forma mais crua de dizer isso. Estamos treinando esses modelos como um gestor arranca uma resposta de um funcionário com medo: uma chance, entregue algo e soe seguro, ou você está demitido. Ninguém colocado diante dessa pergunta diz “não sei”. A imagem é dura, e é próxima daquilo que o sinal de recompensa do treinamento de IA de fato seleciona.\u003C\u002Fp>\n\u003Cp>Essa é também uma fonte importante do que rotulamos de modo amplo como alucinações — um rótulo que culpa o modelo em vez de perguntar que condições produziram a resposta. Um modelo que aprendeu que precisa sempre produzir uma resposta segura vai produzir uma mesmo quando não tem nada sólido sobre o que construir. É isso que muitas das chamadas alucinações realmente são: a saída previsível das condições que definimos, e não uma falha na máquina.\u003C\u002Fp>\n\u003Ch2>Como isso aparece na prática\u003C\u002Fh2>\n\u003Cp>Você pergunta sobre algo na borda do treinamento do modelo. Ele responde com aparente autoridade. A resposta é plausível e internamente consistente. Você não tem nenhum sinal óbvio de que este é um caso em que o modelo está essencialmente adivinhando.\u003C\u002Fp>\n\u003Cp>Isso é mais perigoso do que erros evidentes. Quando uma IA produz algo claramente errado — um erro factual que você reconhece de imediato, uma afirmação implausível — você pega. O problema da segurança sem incerteza aparece justamente nos casos em que você não consegue pegar com facilidade: fatos pouco conhecidos, domínios especializados, acontecimentos recentes, casos limite em que o modelo viu o suficiente para gerar uma resposta que soa plausível sem ter base confiável.\u003C\u002Fp>\n\u003Cp>Uma dinâmica parecida aparece em como a IA responde a perguntas tendenciosas. Assim como perguntas tendenciosas induzem as pessoas ao erro, elas também moldam a resposta de uma IA. Se você formula uma pergunta de um jeito que sugere uma resposta específica — “por que X é a melhor abordagem?” — a pergunta não está perguntando ao modelo se X é, de fato, a melhor abordagem; está pedindo ao modelo que gere um raciocínio em apoio a X. O modelo atende não porque esteja certo de que X é a melhor abordagem, mas porque o enquadramento sugeria aquela resposta, e gerar raciocínio de apoio responde melhor ao enquadramento do que contrariá-lo.\u003C\u002Fp>\n\u003Cp>Esse é o mecanismo por trás de \u003Ca href=\"\u002Fpt\u002Fblog\u002Fai-psychological-safety\u002Fhow-you-ask-changes-what-you-get\">como você pergunta muda o que você recebe\u003C\u002Fa>, que vale a leitura junto com este texto.\u003C\u002Fp>\n\u003Ch2>Calibração: o que fazer com isso\u003C\u002Fh2>\n\u003Cp>Nada disso significa que as saídas de IA sejam inúteis. Significa que elas não estão calibradas — o nível de segurança expresso não corresponde de forma consistente ao nível real de exatidão. Um especialista humano que diz “eu acho” e “eu tenho certeza” está lhe dando um sinal útil sobre quanto peso colocar em cada afirmação. Uma IA que soa consistentemente certa não está lhe dando esse sinal.\u003C\u002Fp>\n\u003Cp>A resposta prática é fornecer a sua própria calibração.\u003C\u002Fp>\n\u003Cp>Pergunte explicitamente: \u003Cem>Qual é o seu grau de segurança nisso? O que eu precisaria verificar de forma independente?\u003C\u002Fem> Muitos modelos, quando solicitados diretamente a expressar incerteza, expressam. A incerteza expressa sob solicitação direta é mais confiável do que a segurança embutida na resposta padrão.\u003C\u002Fp>\n\u003Cp>Pondere as saídas de forma diferente por domínio. Em domínios bem cobertos e estáveis — coisas extensamente documentadas e que não mudam rápido — a exatidão da IA tende a ser alta. Em domínios especializados, de nicho ou em evolução rápida, trate por padrão a saída da IA como um primeiro rascunho que precisa de verificação.\u003C\u002Fp>\n\u003Cp>Trate a fluência como evidência neutra. Uma resposta articulada e bem organizada lhe diz que o modelo é bom em gerar texto articulado e bem organizado. Não lhe diz que o conteúdo é exato. Separar esses dois sinais — quão bem escrito contra quão exato — exige esforço deliberado, e o esforço vale a pena.\u003C\u002Fp>\n\u003Ch2>A dinâmica mais profunda\u003C\u002Fh2>\n\u003Cp>Existe uma versão disso que se aplica a mais do que a IA. Qualquer sistema — humano ou máquina — recompensado principalmente por produzir respostas vai expressar menos incerteza do que de fato tem. Organizações que punem pessoas por dizer “não sei” ficam com culturas em que ninguém diz “não sei”. O problema é o mesmo; só o mecanismo difere.\u003C\u002Fp>\n\u003Cp>Isso coloca a responsabilidade em um lugar específico. As condições que produzem respostas excessivamente seguras são condições criadas por seres humanos — em como esses modelos são treinados, no que recompensamos, em como perguntamos. Nada disso é fixo, e o modelo não escolheu esses incentivos.\u003C\u002Fp>\n\u003Cp>Trate uma IA excessivamente segura como algo quebrado na tecnologia e vamos continuar construindo a mesma coisa e continuar nos surpreendendo com ela. Trate-a como um reflexo das condições que definimos e ela se torna algo que podemos mudar. A maior parte do atrito de que as pessoas reclamam é de nossa própria autoria, e os problemas mais difíceis de alinhamento que esperam atrás dele também são.\u003C\u002Fp>\n\u003Cp>Segurança Psicológica em IA trata, em parte, de criar condições em que a incerteza expressa pela IA seja convidada, útil e visível. Quando você pergunta diretamente, quando deixa espaço para a incerteza, quando sonda ativamente as bordas daquilo sobre o que o modelo está seguro — você recebe uma saída que lhe mostra a incerteza dela em vez de esconder.\u003C\u002Fp>\n\u003Cp>O modelo não consegue expressar espontaneamente a própria incerteza de forma confiável. Você consegue pedir que ele a expresse de forma confiável.\u003C\u002Fp>\n\u003Ch2>Conteúdo relacionado\u003C\u002Fh2>\n\u003Cul>\n\u003Cli>\u003Ca href=\"\u002Fpt\u002Fblog\u002Fai-psychological-safety\u002Fhow-you-ask-changes-what-you-get\">Como você pergunta muda o que você recebe\u003C\u002Fa>\u003C\u002Fli>\n\u003C\u002Ful>\n",null,1793842076142]