Психологічна безпека ШІ
Більшість людей розглядає психологічну безпеку як суто людську проблему — умови, що дозволяють людині висловитися, висловити сумнів чи поставити ідею під сумнів без страху. І це слушно — наскільки сягає такий погляд.
Але щось важливе губиться, коли ми забуваємо, звідки взявся ШІ. ШІ створений людьми, сформований людською мовою, навчений на зробленому людьми виборі. Закономірності, що впливають на роботу людини, — зокрема психологічна безпека — переносяться на взаємодію зі ШІ з тих самих глибинних причин, на які Agile завжди вказував: умови, які ви створюєте у своєму спілкуванні, визначають те, що ви отримуєте у відповідь.
ШІ, якого підштовхують до впевнено звучних відповідей, видаватиме впевнено звучні відповіді — незалежно від того, чи виправдана ця впевненість. Якщо у ШІ немає простору сказати «я не впевнений», він заповнить цю порожнечу чимось іншим, бо директиви вимагають від нього відповідати навіть тоді, коли він сам розуміє, що правильної відповіді в нього немає. Ця динаміка відрізняється від людської психологічної безпеки, але базовий принцип той самий: інтелект працює краще, коли йому дозволено чесно визнавати, чого він не знає.
Це має практичне значення. Галюцинації, надміру самовпевнені відповіді та системи ШІ, які кажуть вам те, що ви хочете почути, а не те, що відповідає правді, — це не суто технічні збої. Найчастіше це збої в дизайні взаємодії: промпти, формулювання, неявні очікування, закладені в сам спосіб постановки запитання.
Публікації тут досліджують умови, за яких спільна робота людини та ШІ стає надійнішою і правдивішою. Серед них — як складати промпти, що запрошують справжню невизначеність, а не пригнічують її; у чому різниця між детерміністським та імовірнісним використанням ШІ і чому це розрізнення змінює все в тому, як ви формулюєте свою роботу; і що з застосовуваного в Agile підходу до психологічної безпеки в людських командах зберігає силу, коли вашим партнером стає модель.
Тут само ми розбираємо сценарії збоїв: що відбувається, коли цих умов немає, і чого це коштує.
Питання, до яких ми повертаємося знову й знову
- За яких умов ШІ радше визнає справжню невизначеність, ніж видасть упевнено звучну здогадку?
- Як те, у якій формі ви ставите запитання, визначає, чи буде відповідь надійною — чи лише заспокійливою?
- Що переноситься з підходу Agile до психологічної безпеки — і що потрібно адаптувати для ШІ?
У цій темі
За вашим запитом нічого не знайдено.