AIの心理的安全性

ほとんどの人は心理的安全性を人間の問題として考える — 人が恐れることなく発言し、不確実性を表明し、アイデアに疑問を呈することを可能にする条件として。それはそこまでは正しい。

しかし、AIがどこから来たかを無視すると、重要なものが見落とされる。AIは人間によって作られ、人間の言語によって形成され、人間の選択によって訓練された。人間のパフォーマンスに影響を与えるダイナミクス — 心理的安全性を含む — は、アジャイルが常に特定してきたのと同じ根本的な理由でAIインタラクションに引き継がれる：コミュニケーションで作り出す条件が、返ってくるものを形作る。

確信ありげな回答を報酬とする方法でプロンプトされたAIは、確信ありげな回答を生成する — その自信が正当化されるかどうかに関わらず。「わからない」と言う余地のないAIは、そのスペースを別のもので埋める。なぜなら、正しい答えを持っていないとわかっていても応答するよう指示されているからだ。そのダイナミクスは人間の心理的安全性とは異なるが、根底にある原則は成立する：知性は自分が知らないことについて正直である許可があるとき、より良く機能する。

これは実際的な問題だ。幻覚、過度に自信ある出力、真実ではなく聞きたいことを伝えるAIシステム — これらは純粋な技術的失敗ではない。それらはしばしばインタラクション設計の失敗だ — プロンプト、フレーミング、質問の立て方に組み込まれた暗黙の期待。

ここの投稿は、人間とAIの協働をより信頼性が高く、より真実に近いものにする条件を探る。それには、不確実性を抑制するのではなく招くプロンプトの立て方、決定論的AIと確率論的AIの使い方の違いとその区別がいかに仕事のフレームを変えるか、そして人間チームにおけるアジャイルの心理的安全性アプローチのうち協働者がモデルである場合に何が引き継がれるかが含まれる。

失敗モードも検討する：それらの条件が整っていないときに何が起きるか、そしてそのコスト。