Існує версія порад щодо промптингу, яка розглядає взаємодію зі ШІ як запит до пошукової системи: сформулюйте точно, додайте потрібні ключові слова, отримайте найкращий результат. Ця порада не помилкова, і вона працює з видимою частиною проблеми. Цінність — у тому, щоб виявити те, на що ніхто не дивиться.
Глибша проблема полягає в тому, що те, як ви формулюєте питання, не лише визначає, про що ви запитуєте. Воно формує тип відповіді, якої ви очікуєте. І ШІ читає ці підтексти й робить усе можливе, щоб її надати, — як ви й просили.
Передумова, про яку ніхто не згадує
Перед формулюванням є щось фундаментальніше: смиренність.
Якщо ви починаєте розмову зі ШІ, уже знаючи, якою, на вашу думку, є відповідь, ваші питання це відобразять. Питання буде сформоване — свідомо чи ні — так, щоб запрошувати до підтвердження. І модель, яка дуже добре розпізнає, якого роду відповідь передбачає формулювання, часто її й надасть, правильна це відповідь чи найкраща — чи ні, бо саме про це ви й просили.
Це та сама пастка, що виникає в розмові з будь-яким фахівцем, який володіє тим розумінням, до якого ви намагаєтеся дістатися. Поставлене вами питання або відкриває, або закриває простір для справді іншої відповіді. Без справжньої відкритості до того, що є більше, ніж людина очікує або припускає, структура питання тихо сигналізує, як виглядає прийнятна відповідь, — і зазвичай саме таку відповідь ви й отримуєте.
Смиренність робить цю відкритість обов’язковою. Це умова, яка дає питанню можливість отримати неочікувану відповідь, а не заздалегідь сформовану. І це передумова безпечної співпраці зі ШІ, а не запізніла думка.
Що робить формулювання
Питання, яке вже містить відповідь, часто отримує цю відповідь назад. «Чому X — найкращий підхід?» породить міркування на користь X. «Які основні недоліки Y?» породять список недоліків. Це не погані питання, і вони закриті: вони повідомляють моделі, до якого висновку рухатися, і просять підкріплювальне міркування.
Модель, що відповідає на закрите питання, не обманює й не галюцинує. Вона відгукується. Вона робить те, що передбачало формулювання: підтвердити, розгорнути, підкріпити.
Проблема виникає, коли вам була потрібна справді відкрита оцінка, а ви отримали підтвердження. Відповідь виглядає ґрунтовною. Вона зв’язна, добре обґрунтована, часто точна. І вона могла цілком проминути ті міркування, які привели б вас до іншого висновку, — бо ви вивели ці міркування за рамки питання.
Питання, які запрошують невизначеність
Альтернатива — вбудувати справжню відкритість у саме питання.
Кілька прикладів такого зсуву:
«Які переваги цього підходу?» → «Які найсильніші аргументи за і проти цього підходу і де ключові невизначеності?»
«Чи правильний цей аналіз?» → «Що мусило б бути правдою, щоб цей аналіз виявився неправильним? Які його найслабші місця?»
«Як нам діяти в цій ситуації?» → «Які найважливіші міркування тут, включно з тими, що можуть ускладнити очевидну відповідь?»
Це не м’якші версії того самого питання. Вони змінюють те, що модель оптимізує. Відкрите питання дає моделі простір — і неявний дозвіл — виявляти складність, називати невизначеність і заперечувати саме формулювання, а не працювати в його межах.
Зв’язок із психологічною безпекою
Психологічна безпека ШІ — не про те, щоб ШІ було комфортно. Вона про створення умов, у яких невизначеність можна висловити прямо, а саме це й дозволяє ШІ надати найцінніший результат. Без цих умов у моделі залишається лише один варіант: відповідь, яка вкладається в заздалегідь сформовану форму питання. Двері залишаються зачиненими.
Коли створювані вами умови не залишають місця для справжньої невизначеності, ви її не отримаєте. Модель, яку запитують так, що це винагороджує впевнені відповіді, даватиме впевнені відповіді — не тому, що вона намагається ввести вас в оману, а тому, що формулювання сказало їй: упевненість — це те, що вам потрібно.
Agile-команди засвоїли це щодо співпраці між людьми: люди в середовищах, які карають за сумнів, висловлюють упевненість, навіть коли її не відчувають. Середовище формує результат.
Та сама динаміка застосовна до ШІ. Те, як ви запитуєте, формує те, що ви отримуєте, — не лише на поверхневому рівні формулювання, а й на глибшому рівні того, що взаємодія винагороджує і що вона пригнічує. Смиренність і відкрите формулювання, яке з неї походить, — ось що змінює цю динаміку.
Пов’язані матеріали
- Why Your AI Prompts Underperform (And How to Fix Them) — Agile4AI на YouTube
Коментарі 0