Психологічна безпека ШІ
Більшість людей розглядає психологічну безпеку як суто людську проблему — умови, що дозволяють людині висловитися, висловити сумнів чи поставити ідею під сумнів без страху. І це слушно — наскільки сягає такий погляд.
Але щось важливе губиться, коли ми забуваємо, звідки взявся ШІ. ШІ створений людьми, сформований людською мовою, навчений на зробленому людьми виборі. Закономірності, що впливають на роботу людини, — зокрема психологічна безпека — переносяться на взаємодію зі ШІ з тих самих глибинних причин, на які Agile завжди вказував: умови, які ви створюєте у своєму спілкуванні, визначають те, що ви отримуєте у відповідь.
ШІ, якого підштовхують до впевнено звучних відповідей, видаватиме впевнено звучні відповіді — незалежно від того, чи виправдана ця впевненість. Якщо у ШІ немає простору сказати «я не впевнений», він заповнить цю порожнечу чимось іншим, бо директиви вимагають від нього відповідати навіть тоді, коли він сам розуміє, що правильної відповіді в нього немає. Ця динаміка відрізняється від людської психологічної безпеки, але базовий принцип той самий: інтелект працює краще, коли йому дозволено чесно визнавати, чого він не знає.
Це має практичне значення. Галюцинації, надміру самовпевнені відповіді та системи ШІ, які кажуть вам те, що ви хочете почути, а не те, що відповідає правді, — це не суто технічні збої. Найчастіше це збої в дизайні взаємодії: промпти, формулювання, неявні очікування, закладені в сам спосіб постановки запитання.
Публікації тут досліджують умови, за яких спільна робота людини та ШІ стає надійнішою і правдивішою. Серед них — як складати промпти, що запрошують справжню невизначеність, а не пригнічують її; у чому різниця між детерміністським та імовірнісним використанням ШІ і чому це розрізнення змінює все в тому, як ви формулюєте свою роботу; і що з застосовуваного в Agile підходу до психологічної безпеки в людських командах зберігає силу, коли вашим партнером стає модель.
Тут само ми розбираємо сценарії збоїв: що відбувається, коли цих умов немає, і чого це коштує.
Питання, до яких ми повертаємося знову й знову
- За яких умов ШІ радше визнає справжню невизначеність, ніж видасть упевнено звучну здогадку?
- Як те, у якій формі ви ставите запитання, визначає, чи буде відповідь надійною — чи лише заспокійливою?
- Що переноситься з підходу Agile до психологічної безпеки — і що потрібно адаптувати для ШІ?
У цій темі
Те, як ви запитуєте, змінює те, що ви отримуєте
Питання — не лише про те, що ви запитуєте: воно про те, що ваше питання передбачає щодо очікуваної відповіді. ШІ читає це формулювання й відповідає на нього.
Чому ШІ не може сказати «я не знаю»
Модель знає, що у відповіді є невизначеність. Чого вона не має, так це доброго способу вам про це сказати. Розуміння причини змінює те, як ви читаєте все, що вона говорить.
Детермінований проти імовірнісного: чому це змінює все
Є два принципово різні способи використовувати ШІ. Один очікує ту саму відповідь кожного разу. Інший очікує варіативність — і працює з нею. Вони вимагають різного мислення.
Упевнена неправильна відповідь
Галюцинація — не лише технічна помилка: це симптом умов, які пригнічують невизначеність. Розуміння того, звідки вона береться, змінює те, як їй запобігати.
За вашим запитом нічого не знайдено.
