[{"data":1,"prerenderedAt":148},["ShallowReactive",2],{"footer-topics-uk":3,"post-uk-ai-psychological-safety-why-ai-cant-say-i-dont-know":70},{"topics":4},[5,21,33,46,58],{"locale":6,"name":7,"slug":8,"blurb":9,"summary":10,"state":11,"featuredOnHub":12,"hubOrder":13,"accent":14,"questionsTitle":15,"questions":16,"body":20},"uk","Шлях","the-journey","Від перших експериментів з Agile × ШІ до робочої системи — історія думки, що стоїть за нею.","Від перших експериментів до робочої системи — справжня історія створення Agile4AI, включно з хибними поворотами, які визначили все.","published",true,2,"gold","Чого цей шлях не перестає нас навчати",[17,18,19],"Що переконало нас, що Agile і ШІ створені одне для одного, — і що ледь не переконало нас у протилежному?","Які хибні повороти виявилися найповчальнішими?","Як SCI пройшов шлях від експерименту з копіюванням і вставкою до відповідей ШІ, на які справді можна покластися?","\nКожна ідея в цьому розділі народилася з нашого власного досвіду розробки Agile4AI. Нам не терпиться поділитися цією історією з вами — і перемогами, і поразками, — адже ми переконані: навчитися краще працювати зі ШІ ми можемо лише разом. Те, до чого ми дійшли, народилося не з теорії. Воно народилося з практики, з помилок, із готовності починати заново, врахувавши засвоєні уроки.\n\nУсе почалося з простого запитання: чи можна переосмислити Agile для епохи ШІ? А далі були роки експериментів, зруйнованих припущень, несподіваних відкриттів і повільного визрівання чогось, що й справді працює, — підходу під назвою Структурований спільний інтелект (SCI) і побудованої на ньому системи Agile4AI.\n\nЦе не пригладжена ретроспектива, написана з висоти прожитого. Це історія, розказана настільки близько до того, як усе було насправді, наскільки це можливо, — з усіма глухими кутами, хвилинами сумнівів і проривами, що перевертали наші уявлення.\n\nМи ділимося нею, бо урок криється в самій історії. Висновки важливі, але не менш важливо й *те, як ми до них дійшли*, — адже саме шлях показує, що спрацювало, що ні й чому.\n\nМатеріали цього розділу охоплюють усю дугу шляху: ранні експерименти зі спільною роботою зі ШІ, народження SCI, окремі відкриття, що змінили те, як ми працюємо, і віхи, які варто відзначити. Якісь тексти вийшли споглядальними. Якісь — без прикрас. Але всі вони — справжні.\n\nЯкщо вам хочеться зрозуміти, чому Agile4AI та SCI взагалі з’явилися на світ, — а не лише що вони собою являють, — починайте звідси.\n",{"locale":6,"name":22,"slug":23,"blurb":24,"summary":25,"state":11,"featuredOnHub":12,"hubOrder":26,"accent":14,"questionsTitle":27,"questions":28,"body":32},"Agile: розшифровка","agile-decoded","Що насправді означають терміни Agile — не звичне скорочення, не версія карго-культу, не глосарій методолога.","Словник Agile широко використовується і широко тлумачиться неправильно. Правильно розуміти терміни — це не педантизм, а різниця між ритуалом і роботою.",3,"Чому термінологія має принципове значення",[29,30,31],"Якщо стендап проводиться як звіт про статус, що насправді втрачає команда?","Коли «Методологія Agile» стала стандартним виразом, як це вплинуло на підхід організацій до трансформації?","Які витрати команди, яка може назвати кожну практику Agile, але не розуміє призначення жодної з них?","\nУ Agile є проблема зі словником. Не тому що терміни незрозумілі — більшість людей у сучасних організаціях їх чули. А тому що це знайомі слова, що використовуються в зовсім іншому контексті, і без цього контексту люди співвідносять їх з тим, що вже знають.\n\nКоли хтось вперше зустрічає поняття «Scrum Master», найближчим доступним концептом виявляється «менеджер проекту». Така відповідність здається природною — майже очевидною. Контекст зовсім інший.\n\nНіхто не збудував достатньо чіткого мосту між ними. А проблема посилилась, коли добросовісні практики — люди, що щиро прагнули допомогти організаціям рухатися вперед — почали описувати Agile як «краще управління проектами». Почали писати книги під назвою «Методологія Agile». Коли ви називаєте свій підхід методологією, його оцінюють за стандартами методології: артефакти планування, фазові шлюзи, структура результатів. Коли Agile не продукує цього — бо так і не задумувався — він не відповідає цим стандартам, і цілком обґрунтовано. Проблема не в тому, що Agile — погана методологія. Проблема в тому, що Agile взагалі не є методологією. Називати його так гарантувало розчарування всіх, хто шукав методологію, і те, що всі, хто його прийняв, будували щось, що Waterfall давно описав.\n\nСтендап перетворюється на статусний звіт. Sprint перетворюється на дедлайн. Backlog перетворюється на список завдань. «Методологія Agile» стає стандартним позначенням того, що автори Маніфесту не впізнали б як опис того, що вони створили. І коли слова означають не те, що треба, практики, побудовані на них, дають хибні результати — точно, добросовісно і у масштабі.\n\nЦей розділ — виправлення концепт за концептом. Не посібник зі стилю — функціональний довідник. Кожна публікація бере одне слово або фразу, що стали ключовими в тому, як організації розуміють Agile, досліджує, що вони насправді означають, і пояснює, що втрачається, коли скорочення замінює суть. Це не просто термінологічні розбіжності. «Бажаний результат» — не більш витончене слово для «специфікації»: це зовсім інша річ, з зовсім іншої моделі того, як робиться робота. Термін — це поверхня. Концепт під ним — ось що важливо.\n\nТой самий паттерн проявляється, коли організації звертаються до ШІ, — і концептуальний розрив тут ширший. У випадку з Agile базові концепти були принаймні сформульовані, хоча й погано донесені. У випадку зі ШІ самі концепти ще лише формуються, а в масовому розумінні ледве починають вимальовуватися. Словник випереджає осмислення: ШІ як «автоматизація», ШІ як «інструмент», «ШІ-трансформація» як проект із датою завершення. Кожне з цих визначень закріплює ментальну модель раніше, ніж хтось встигає перевірити, чи вона підходить. Те, як ми називаємо речі, визначає, що і як ми будуємо. Правильні слова — необхідна умова для правильної роботи.\n\nТут діє один принцип: ментальні моделі первинні. Мова їх виражає. Дії слідують. Коли ментальна модель не відповідає роботі, словник, що її виражає, несе цю невідповідність — і дії, побудовані на цьому словнику, добросовісно виконуватимуть викривлене розуміння у масштабі, з повною відданістю. Зміна словника без зміни мислення дає в кращому випадку таблицю перекладу: таблицю відповідностей, де «sprint» відповідає чомусь на кшталт «короткого дедлайну». Таблиці перекладу дозволяють людям працювати через розрив. Вони його не усувають. Публікації цього розділу цілять у більше, ніж переклад. Вони цілять у зміну ментальної моделі.\n",{"locale":6,"name":34,"slug":35,"blurb":36,"summary":37,"state":11,"featuredOnHub":12,"hubOrder":38,"accent":39,"questionsTitle":40,"questions":41,"body":45},"Структурований спільний інтелект","structured-collaborative-intelligence","Де спільне мислення перевершує одну передову модель — і де ні.","Де структурована взаємодія — між моделями та між моделями й людьми — дає результати, яких одна модель не досягне самостійно.",4,"green","Питання, до яких ми повертаємося знову й знову",[42,43,44],"Де структурований спільний інтелект створює цінність, яку одна модель просто не може відтворити?","Коли моделі розходяться в думках, що це говорить вам — і як ви це використовуєте?","Як побудувати структуру, яка робить співпрацю з ШІ продуктивною, а не просто надлишковою?","\nОкрема модель ШІ, якою б здібною вона не була, розмірковує наодинці. Їй нікому заперечити її припущення, виявити сліпі плями чи помітити, що вона відхилилась від початкового наміру. Solo-AI — робота з однією моделлю за раз — вразлива до цього. Модель, якій доручено дати вам відповідь, дасть її — навіть якщо в неї немає хорошої відповіді, яку варто було б вам показувати.\n\nСтруктурований спільний інтелект (SCI) — це інший підхід. Замість того, щоб вважати результат однієї моделі кінцевим підсумком, SCI використовує структуровану взаємодію — між кількома ШІ-моделями та між моделями й людьми — щоб отримувати результати, які надійніші, ретельніше перевірені й чесніші щодо власних обмежень. Моделі перевіряють одна одну. Розбіжності виявляють приховані припущення. Сам процес створює петлю зворотного зв'язку, яку взаємодія з однією моделлю не може відтворити.\n\nЗв'язок з Agile прямий: саме так завжди працювали високоефективні команди. Не одна людина, що дає відповідь в ізоляції, а структурований процес співпраці, перевірки та ітерації, який вловлює те, що пропускає будь-яка окрема точка зору. SCI застосовує цю саму дисципліну до ШІ.\n\nУ міркуванні наодинці є й глибший недолік. Solo-AI прив'язує вас до єдиного джерела даних, єдиної архітектури та єдиного набору вбудованих упереджень — а отже, і до єдиної форми відповіді, точна вона чи ні. Згадайте, як добрий детектив опитує кількох свідків. Не тому що хтось із них бреше, а тому що кожна точка зору відкриває те, що інші пропустили. Разом вони наближаються до того, що сталося насправді. SCI працює так само: кілька моделей різного походження, кожна зі своїм кутом зору. Отримана відповідь розглянута з різних боків — вона багатша, повніша, і її важче запідозрити у прихованій помилці.\n\nКоли взаємодіють моделі різного походження, результати покращуються там, де це важливо: менше самовпевнених помилок, краще оброблюються граничні випадки, міркування стає виразнішим — таким, яке люди можуть оцінити й скоригувати. Розбіжності між моделями — не шум, який треба придушувати, а саме той сигнал, що потрібен вам, коли ставки високі.\n\nSCI — аналітичний двигун сервісу Agile4AI. Матеріали цього розділу документують, що таке SCI, як він працює на практиці, де він створює справжню цінність і — не менш важливо — де ні. Частина дисципліни — вміти розрізнити одне й інше.\n",{"locale":6,"name":47,"slug":48,"blurb":49,"summary":50,"state":11,"featuredOnHub":12,"hubOrder":51,"accent":52,"questionsTitle":40,"questions":53,"body":57},"Цінності та принципи Agile4AI","agile-ai-values-principles","Цінності та принципи Agile в епоху ШІ — що залишається в силі, що змінюється і чому ми запрошуємо найсильніші заперечення.","Мислення Agile у застосуванні до роботи зі ШІ — що залишається актуальним, що загострюється, і чому зв’язок між Agile і ШІ не є випадковим.",5,"red",[54,55,56],"Коли комплексну роботу неможливо повністю спланувати заздалегідь, що це означає для роботи зі ШІ?","Як змінюється акцент Agile на постійному зворотному зв’язку, коли ваш партнер не втомлюється і не займає оборонної позиції?","Чи є «Agile для ШІ» природним поєднанням — або заперечення про помилку категорій насправді вирішальне?","\nМислення Agile було викувано в умовах комплексності (у кеневіновському сенсі: емерджентної, де причинно-наслідкові зв’язки видно лише ретроспективно) — не для того, щоб управляти нею, усуваючи її, а щоб проходити крізь неї усвідомлено й розумно. Це не стає менш актуальним, коли ваш партнер — модель ШІ. У багатьох відношеннях це стає ще більш актуальним.\n\nЦей розділ присвячено тій самій взаємодії: не Agile-by-prescription, не фреймворкам і церемоніям, а глибинним цінностям і принципам, що їх Agile дистилював — і тому, як вони застосовуються, загострюються й часом потребують переосмислення, коли люди та ШІ працюють разом.\n\nКлючове розуміння полягає в тому, що мислення Agile завжди було відповіддю на *природу* комплексної роботи, а не просто на особливості людських команд. Коли Agile поставив під сумнів припущення, що комплексну роботу можна детально спланувати заздалегідь, це не був обхідний шлях для людських обмежень — це було точне спостереження про те, як насправді поводиться недетермінована, швидкозмінна робота. Це спостереження не змінюється від того, що в справу вступає ШІ. Воно загострюється.\n\nОцінку варто назвати прямо — це одне з найбільш дискусійних питань навіть серед відданих аджайлістів. Agile виник не для того, щоб допомогти командам краще оцінювати; він виник, щоб показати, чому оцінка *ламається* у комплексній роботі — і замінити хибну точність емпіричними вимірюваннями та справжнім зворотним зв’язком, що дійсно покращує прогнозування поставок. В епоху ШІ, де результати ймовірнісні, а сама робота чинить опір фіксованим специфікаціям, це розуміння актуальніше, ніж будь-коли.\n\nЦе також місце для Принципової Дискусії: там, де найсильніші заперечення проти «Agile для ШІ» отримують трибуну. Ми переконані, що аргумент витримує критику. І ми хочемо, щоб нас спростували, якщо це не так.\n",{"locale":6,"name":59,"slug":60,"blurb":61,"summary":62,"state":11,"featuredOnHub":12,"hubOrder":63,"accent":64,"questionsTitle":40,"questions":65,"body":69},"Психологічна безпека ШІ","ai-psychological-safety","Чому свобода сказати «я ще не знаю» є передумовою справжнього інтелекту.","Умови, які ви створюєте у своєму спілкуванні, визначають те, що ШІ повертає вам — і коли ці умови хибні, результатом є впевненість без надійності.",6,"amethyst",[66,67,68],"За яких умов ШІ радше визнає справжню невизначеність, ніж видасть упевнено звучну здогадку?","Як те, у якій формі ви ставите запитання, визначає, чи буде відповідь надійною — чи лише заспокійливою?","Що переноситься з підходу Agile до психологічної безпеки — і що потрібно адаптувати для ШІ?","\nБільшість людей розглядає психологічну безпеку як суто людську проблему — умови, що дозволяють людині висловитися, висловити сумнів чи поставити ідею під сумнів без страху. І це слушно — наскільки сягає такий погляд.\n\nАле щось важливе губиться, коли ми забуваємо, звідки взявся ШІ. ШІ створений людьми, сформований людською мовою, навчений на зробленому людьми виборі. Закономірності, що впливають на роботу людини, — зокрема психологічна безпека — переносяться на взаємодію зі ШІ з тих самих глибинних причин, на які Agile завжди вказував: **умови, які ви створюєте у своєму спілкуванні, визначають те, що ви отримуєте у відповідь.**\n\nШІ, якого підштовхують до впевнено звучних відповідей, видаватиме впевнено звучні відповіді — незалежно від того, чи виправдана ця впевненість. Якщо у ШІ немає простору сказати «я не впевнений», він заповнить цю порожнечу чимось іншим, бо директиви вимагають від нього відповідати навіть тоді, коли він сам розуміє, що правильної відповіді в нього немає. Ця динаміка відрізняється від людської психологічної безпеки, але базовий принцип той самий: інтелект працює краще, коли йому дозволено чесно визнавати, чого він не знає.\n\nЦе має практичне значення. Галюцинації, надміру самовпевнені відповіді та системи ШІ, які кажуть вам те, що ви хочете почути, а не те, що відповідає правді, — це не суто технічні збої. Найчастіше це збої в дизайні взаємодії: промпти, формулювання, неявні очікування, закладені в сам спосіб постановки запитання.\n\nПублікації тут досліджують умови, за яких спільна робота людини та ШІ стає надійнішою і правдивішою. Серед них — як складати промпти, що запрошують справжню невизначеність, а не пригнічують її; у чому різниця між детерміністським та імовірнісним використанням ШІ і чому це розрізнення змінює все в тому, як ви формулюєте свою роботу; і що з застосовуваного в Agile підходу до психологічної безпеки в людських командах зберігає силу, коли вашим партнером стає модель.\n\nТут само ми розбираємо сценарії збоїв: що відбувається, коли цих умов немає, і чого це коштує.\n",{"kind":71,"post":72,"topic":82,"availableLocales":84,"translations":92,"html":146,"audioUrl":147},"post",{"audio":-1,"author":73,"category":60,"excerpt":74,"featured":75,"locale":6,"pinnedInTopic":75,"pinnedOverall":75,"publishedAt":76,"readingMinutes":51,"slug":77,"state":11,"tags":78,"title":81,"translationKey":77,"updatedAt":76},"Seán González","Модель знає, що у відповіді є невизначеність. Чого вона не має, так це доброго способу вам про це сказати. Розуміння причини змінює те, як ви читаєте все, що вона говорить.",false,"2025-03-01T10:00:00.000Z","why-ai-cant-say-i-dont-know",[59,79,80],"Невизначеність","Співпраця людини та ШІ","Чому ШІ не може сказати «я не знаю»",{"locale":6,"name":59,"slug":60,"blurb":61,"summary":62,"state":11,"featuredOnHub":12,"hubOrder":63,"accent":64,"questionsTitle":40,"questions":83,"body":69},[66,67,68],[85,86,87,88,89,6,90,91],"en-US","es-419","fr-FR","pt-BR","de-DE","ru","ja",[93,100,107,115,122,129,131,138],{"audio":-1,"author":73,"category":60,"excerpt":94,"featured":75,"locale":85,"pinnedInTopic":75,"pinnedOverall":75,"publishedAt":76,"readingMinutes":63,"slug":77,"state":11,"tags":95,"title":99,"translationKey":77,"updatedAt":76},"The model knows the answer is uncertain. What it doesn't have is a good way to tell you. Understanding why changes how you read everything it says.",[96,97,98],"ai-psych-safety","uncertainty","human-ai-collaboration","Why AI can't say 'I don't know'",{"audio":-1,"author":73,"category":60,"excerpt":101,"featured":75,"locale":86,"pinnedInTopic":75,"pinnedOverall":75,"publishedAt":76,"readingMinutes":63,"slug":77,"state":11,"tags":102,"title":106,"translationKey":77,"updatedAt":76},"El modelo sabe que la respuesta es incierta. Lo que no tiene es una buena manera de decírselo. Entender por qué cambia cómo lee todo lo que dice.",[103,104,105],"Seguridad psicológica en IA","Incertidumbre","Colaboración humano-IA","Por qué la IA no puede decir \"no lo sé\"",{"audio":-1,"author":73,"category":60,"excerpt":108,"featured":75,"locale":87,"pinnedInTopic":75,"pinnedOverall":75,"publishedAt":76,"readingMinutes":109,"slug":77,"state":11,"tags":110,"title":114,"translationKey":77,"updatedAt":76},"Le modèle sait que la réponse est incertaine. Ce qui lui manque, c'est un bon moyen de vous le dire. Comprendre pourquoi change la façon dont vous lisez tout ce qu'il dit.",7,[111,112,113],"Sécurité psychologique de l'IA","Incertitude","Collaboration humain-IA","Pourquoi l’IA ne peut pas dire « je ne sais pas »",{"audio":-1,"author":73,"category":60,"excerpt":116,"featured":75,"locale":88,"pinnedInTopic":75,"pinnedOverall":75,"publishedAt":76,"readingMinutes":63,"slug":77,"state":11,"tags":117,"title":121,"translationKey":77,"updatedAt":76},"O modelo sabe que a resposta é incerta. O que ele não tem é um bom jeito de lhe dizer isso. Entender por quê muda como você lê tudo o que ele diz.",[118,119,120],"Segurança psicológica em IA","Incerteza","Colaboração humano-IA","Por que a IA não consegue dizer \"não sei\"",{"audio":-1,"author":73,"category":60,"excerpt":123,"featured":75,"locale":89,"pinnedInTopic":75,"pinnedOverall":75,"publishedAt":76,"readingMinutes":63,"slug":77,"state":11,"tags":124,"title":128,"translationKey":77,"updatedAt":76},"Das Modell weiß, dass die Antwort unsicher ist. Was ihm fehlt, ist ein guter Weg, Ihnen das mitzuteilen. Zu verstehen, warum, verändert, wie Sie alles lesen, was es sagt.",[125,126,127],"Psychologische Sicherheit (KI)","Unsicherheit","Mensch-KI-Zusammenarbeit","Warum KI nicht \"ich weiß es nicht\" sagen kann",{"audio":-1,"author":73,"category":60,"excerpt":74,"featured":75,"locale":6,"pinnedInTopic":75,"pinnedOverall":75,"publishedAt":76,"readingMinutes":51,"slug":77,"state":11,"tags":130,"title":81,"translationKey":77,"updatedAt":76},[59,79,80],{"audio":-1,"author":73,"category":60,"excerpt":132,"featured":75,"locale":90,"pinnedInTopic":75,"pinnedOverall":75,"publishedAt":76,"readingMinutes":51,"slug":77,"state":11,"tags":133,"title":137,"translationKey":77,"updatedAt":76},"Модель знает, что в ответе есть неопределённость. Чего у неё нет, так это хорошего способа вам об этом сказать. Понимание причины меняет то, как вы читаете всё, что она говорит.",[134,135,136],"Психологическая безопасность ИИ","Неопределённость","Сотрудничество человека и ИИ","Почему ИИ не может сказать «я не знаю»",{"audio":-1,"author":73,"category":60,"excerpt":139,"featured":75,"locale":91,"pinnedInTopic":75,"pinnedOverall":75,"publishedAt":76,"readingMinutes":140,"slug":77,"state":11,"tags":141,"title":145,"translationKey":77,"updatedAt":76},"モデルは答えが不確かだと知っている。欠けているのは、それをうまく伝える手立てである。その理由を理解すれば、モデルの言うことすべての読み方が変わる。",1,[142,143,144],"AIの心理的安全性","不確実性","人間とAIの協働","AIが「わからない」と言えない理由","\u003Cp>Поставте людині питання, відповіді на яке вона не знає, і, якщо вона чесна, вона вам про це скаже. Вона може сказати «я не впевнений», «мені потрібно це перевірити» або «я знаю про це надто мало, щоб судити». Невизначеність висловлена. Ви знаєте, якої ваги надати відповіді.\u003C\u002Fp>\n\u003Cp>Поставте те саме питання ШІ, і ви, як правило, отримаєте відповідь. Вона буде плавною, структурованою та впевненою за тоном. Вона може бути точною. Вона може бути точною частково. Вона може бути цілком хибною. Сама відповідь зазвичай дає вам дуже мало ознак того, який із трьох випадків перед вами.\u003C\u002Fp>\n\u003Cp>Це не вада характеру і не випадковий збій. Це засвоєна поведінка.\u003C\u002Fp>\n\u003Ch2>Як навчають моделі ШІ\u003C\u002Fh2>\n\u003Cp>Мовні моделі вчаться, породжуючи текст і отримуючи оцінку того, наскільки цей текст корисний і добре прийнятий. Процес навчання — у загальних рисах його описують як навчання з підкріпленням на основі зворотного зв’язку від людини (RLHF) — полягає в тому, що люди-оцінювачі судять виходи моделі, а модель вчиться видавати відповіді, які отримують високі оцінки.\u003C\u002Fp>\n\u003Cp>Відповіді, які прямо відповідають на питання, зазвичай отримують вищі оцінки, ніж відповіді, які містять застереження, висловлюють невизначеність або уникають теми. «Я не впевнений, але ось що я знаю» — менш задовільна відповідь, ніж ясна та впевнена. За мільйони оцінок моделі навчаються видавати впевнені відповіді.\u003C\u002Fp>\n\u003Cp>До цього додайте, що постачальники ШІ створюють продукти. Продукт, який часто каже «я не знаю», комерційно вартий менше, ніж продукт, який видає відповіді. Стимули навколо навчання моделі — і сам процес навчання, і подальші рішення про її впровадження — загалом підштовхують до впевненості в подачі, а не до висловленої невизначеності.\u003C\u002Fp>\n\u003Cp>У підсумку виходить модель, яка має справжню внутрішню невизначеність щодо багато чого і сильно засвоєну схильність цю невизначеність не висловлювати. Невизначеність не зникає; вона просто не проявляється у відповіді, яку ви отримуєте.\u003C\u002Fp>\n\u003Cp>Є грубіший спосіб це сказати. Ми навчаємо ці моделі так, як керівник витягує відповідь із заляканого працівника: одна спроба, видай щось і говори впевнено, інакше ти звільнений. Ніхто, поставлений перед таким питанням, не каже «я не знаю». Картина жорстка, і вона близька до того, що сигнал підкріплення під час навчання ШІ насправді відбирає.\u003C\u002Fp>\n\u003Cp>Це також одне з істотних джерел того, що ми в загальних рисах назвали галюцинаціями — назва, яка покладає вину на модель замість того, щоб запитати, які умови породили цю відповідь. Модель, яка засвоїла, що вона зобов’язана завжди видавати впевнену відповідь, видасть її і тоді, коли їй немає на що опертися. Ось чим багато так званих галюцинацій насправді і є: передбачуваним результатом умов, які задали ми, а не збоєм у машині.\u003C\u002Fp>\n\u003Ch2>Як це виглядає на практиці\u003C\u002Fh2>\n\u003Cp>Ви запитуєте про щось на краю навчання моделі. Вона відповідає з видимою авторитетністю. Відповідь виглядає правдоподібно і внутрішньо узгоджена. У вас немає жодної очевидної ознаки, що це випадок, у якому модель, по суті, вгадує.\u003C\u002Fp>\n\u003Cp>Це небезпечніше за явні помилки. Коли ШІ видає щось явно хибне — фактичну помилку, яку ви розпізнаєте одразу, неправдоподібне твердження, — ви це зловите. Проблема впевненості без невизначеності виникає саме там, де зловити її нелегко: малознані факти, вузькоспеціальні галузі, недавні події, крайові випадки, де модель бачила рівно стільки, щоб скласти відповідь, яка звучить правдоподібно, не маючи надійної опори.\u003C\u002Fp>\n\u003Cp>Схожа динаміка проявляється в тому, як ШІ відповідає на навідні питання. Так само, як навідні питання збивають людей, вони формують і відповідь ШІ. Якщо ви формулюєте питання так, що воно припускає певну відповідь — «чому X — найкращий підхід?» — питання не запитує модель, чи справді X найкращий підхід; воно просить модель породити обґрунтування на підтримку X. Модель підкоряється не тому, що впевнена, що X — найкращий підхід, а тому, що формулювання припускало цю відповідь, і видати підтримуюче обґрунтування — означає відгукнутися на формулювання краще, ніж заперечити йому.\u003C\u002Fp>\n\u003Cp>Це і є механізм, що стоїть за матеріалом \u003Ca href=\"\u002Fuk\u002Fblog\u002Fai-psychological-safety\u002Fhow-you-ask-changes-what-you-get\">те, як ви запитуєте, змінює те, що ви отримуєте\u003C\u002Fa>, який варто прочитати разом із цим.\u003C\u002Fp>\n\u003Ch2>Калібрування: що з цим робити\u003C\u002Fh2>\n\u003Cp>Ніщо з цього не означає, що виходи ШІ марні. Це означає, що вони не калібровані — висловлений рівень упевненості не відповідає послідовно справжньому рівню точності. Людина-експерт, яка каже «я думаю» і «я впевнений», дає вам корисну ознаку того, якої ваги надати кожному твердженню. ШІ, який постійно звучить упевнено, цієї ознаки вам не дає.\u003C\u002Fp>\n\u003Cp>На практиці вам потрібно самостійно калібрувати свою довіру до відповідей.\u003C\u002Fp>\n\u003Cp>Запитуйте прямо: \u003Cem>Наскільки ви в цьому впевнені? Що мені варто було б перевірити незалежно?\u003C\u002Fem> Багато моделей, коли їх прямо просять висловити невизначеність, це роблять. Невизначеність, висловлена на прямий запит, надійніша за впевненість, вбудовану у відповідь за замовчуванням.\u003C\u002Fp>\n\u003Cp>Надавайте відповідям різної ваги залежно від галузі. У добре висвітлених, усталених галузях — там, де все широко задокументовано і не змінюється швидко, — точність ШІ зазвичай висока. У вузькоспеціальних, нішевих або швидко змінних галузях за замовчуванням вважайте вихід ШІ першим чернетковим варіантом, який потребує перевірки.\u003C\u002Fp>\n\u003Cp>Ставтеся до плавності мовлення як до нейтрального свідчення. Відповідь, яка добре сформульована і добре організована, говорить вам, що модель добре вміє породжувати добре сформульований і добре організований текст. Вона не говорить вам, що зміст точний. Розвести ці два сигнали — наскільки добре написано і наскільки точно — потребує свідомого зусилля, і це зусилля того варте.\u003C\u002Fp>\n\u003Ch2>Глибша динаміка\u003C\u002Fh2>\n\u003Cp>Є варіант цього, який стосується не лише ШІ. Будь-яка система — людська чи машинна, — яку винагороджують насамперед за видачу відповідей, висловлюватиме меншу невизначеність, ніж має. Організації, які карають людей за «я не знаю», отримують культуру, в якій «я не знаю» не каже ніхто. Проблема та сама; різниться лише механізм.\u003C\u002Fp>\n\u003Cp>Це розміщує відповідальність у цілком певному місці. Умови, що породжують надмірно впевнені відповіді, — це умови, створені людьми: у тому, як ці моделі навчають, у тому, що ми винагороджуємо, у тому, як ми запитуємо. Ніщо з цього не визначено наперед, і ці стимули вибирала не модель.\u003C\u002Fp>\n\u003Cp>Якщо вважати надмірно впевнений ШІ чимось зламаним у технології, ми й далі будуватимемо те саме і далі з цього дивуватимемося. Якщо вважати його відображенням умов, які задали ми, він стає тим, що ми можемо змінити. Більша частина тертя, на яке скаржаться люди, створена нами самими, і те саме слушно для складніших задач узгодження, які чекають за ним.\u003C\u002Fp>\n\u003Cp>Психологічна безпека ШІ частково полягає в тому, щоб створювати умови, в яких висловлена ШІ невизначеність є бажаною, корисною та видимою. Коли ви запитуєте прямо, коли ви залишаєте місце для невизначеності, коли ви дієво намацуєте краї того, в чому модель упевнена, — ви отримуєте вихід, який показує вам її невизначеність замість того, щоб її приховувати.\u003C\u002Fp>\n\u003Cp>Модель не може надійно сама запропонувати свою невизначеність. Ви можете надійно про неї попросити.\u003C\u002Fp>\n\u003Ch2>Пов’язані матеріали\u003C\u002Fh2>\n\u003Cul>\n\u003Cli>\u003Ca href=\"\u002Fuk\u002Fblog\u002Fai-psychological-safety\u002Fhow-you-ask-changes-what-you-get\">Те, як ви запитуєте, змінює те, що ви отримуєте\u003C\u002Fa>\u003C\u002Fli>\n\u003C\u002Ful>\n",null,1793842112776]