[{"data":1,"prerenderedAt":148},["ShallowReactive",2],{"footer-topics-ja":3,"post-ja-ai-psychological-safety-why-ai-cant-say-i-dont-know":70},{"topics":4},[5,21,33,46,58],{"locale":6,"name":7,"slug":8,"blurb":9,"summary":10,"state":11,"featuredOnHub":12,"hubOrder":13,"accent":14,"questionsTitle":15,"questions":16,"body":20},"ja","この旅","the-journey","アジャイル × AIの初期実験から実用システムへ — 思考の背景にある物語。","初期実験から実用システムへ — Agile4AI構築の真の物語。すべてを形作った寄り道も含めて。","published",true,2,"gold","この旅が教え続けること",[17,18,19],"アジャイルとAIが一緒に属していると確信させたものは何か — そして、逆に確信させそうになったものは何か？","どの回り道が最も示唆に富んでいたか？","SCIはどのようにしてコピー＆ペーストの実験から、本当に信頼できるAIの回答へと進化したか？","\nこのトピックのすべてのアイデアは、Agile4AI開発の経験から生まれています。私たちは皆さんにこの物語を共有したいと思っています — 成功も失敗も — AIとより良く働く方法を発見しながら、共に学べると信じているからです。私たちが理解したことは理論から来たのではありません。実践から、失敗から、学んだことを持って再び始めることから来たのです。\n\nこの旅は一つの率直な問いから始まりました：アジャイルはAI時代に合わせて更新できるか？その後に続いたのは、年月にわたる実験、崩れた仮定、予想外の発見、そして実際に機能するものの遅い出現でした — 構造化協調知性（SCI）アプローチと、その上に構築されたAgile4AIシステムです。\n\nこれは後知恵で書かれた洗練された回顧録ではありません。できる限り実際に起きたことに近い形で語られた物語です — 行き詰まり、疑念の瞬間、そしてすべてを再構成した突破口も含めて。\n\n私たちが共有するのは、物語自体が教訓を運んでいるからです。結論も重要ですが、*どのようにしてそこに至ったか*も重要です — なぜなら、そのプロセスが何が機能し、何が機能せず、なぜかを示しているからです。\n\nこのトピックの投稿は全体の道のりをカバーしています：AI協働の初期実験、SCIの開発、仕事の仕方を変えた具体的な発見、そして記録に値するマイルストーン。省察的なものもあります。生のものもあります。すべてが本物です。\n\nAgile4AIとSCIがなぜ存在するのかを — 何であるかだけでなく — 理解したい方はここから始めてください。\n",{"locale":6,"name":22,"slug":23,"blurb":24,"summary":25,"state":11,"featuredOnHub":12,"hubOrder":26,"accent":14,"questionsTitle":27,"questions":28,"body":32},"アジャイル解読","agile-decoded","アジャイル用語が実際に意味すること — 一般的な略称でも、カーゴカルト版でも、方法論者の用語集でもなく。","アジャイルの語彙は広く使われ、広く誤解されています。用語を正しく理解することは些細なことではありません — それは儀式と仕事の違いです。",3,"なぜ用語が根本的に重要か",[29,30,31],"スタンドアップが状況報告として行われた場合、チームは実際に何を失うのか？","「アジャイル方法論」が標準的な語彙になったとき、組織が変革に取り組む方法にどのような影響を与えたか？","すべてのアジャイルプラクティスを名指しできるが、そのどれの目的も理解していないチームのコストは何か？","\nアジャイルには語彙の問題があります。用語が難解だからではありません — 現代の組織のほとんどの人々はそれらを聞いたことがあります。むしろ、これらの用語は完全に異なるコンテキストで使われている馴染みのある言葉であり、そのコンテキストがなければ、人々はすでに知っているものに当てはめてしまうからです。\n\n「スクラムマスター」を初めて聞いたとき、最も近い利用可能なコンセプトは「プロジェクトマネージャー」です。その対応は自然に感じられます — ほぼ明白です。しかし、コンテキストはまったく異なります。\n\n両者の間に十分に明確な橋を架けた人はいませんでした。そして、問題は善意の実践者たち — 組織を前進させようと真剣に取り組んでいた人々 — がアジャイルを「より良いプロジェクト管理」として説明し始め、「アジャイル方法論」というタイトルの本を書き始めたときに複雑になりました。アプローチを方法論と呼ぶと、人々は方法論の基準で評価します：計画アーティファクト、フェーズゲート、成果物の構造。アジャイルがそれらを生み出さない場合 — そのように設計されていないのだから — それらの基準では失敗となります、もっともなことです。問題はアジャイルが悪い方法論だということではありません。アジャイルはそもそも方法論ではないのです。そう呼ぶことで、方法論を求める人々全員が失望し、採用した人々全員がウォーターフォールがすでにマッピングしたものを構築することになりました。\n\nスタンドアップは状況報告になります。スプリントは締め切りになります。バックログはタスクリストになります。「アジャイル方法論」は、マニフェストの著者たちが自分たちが構築したものの説明として認識しないものを表す標準的なフレーズになります。そして、言葉が誤った意味を持つとき、それらに基づいて構築されたプラクティスは誤った結果を生み出します — 正確に、忠実に、そして規模を持って。\n\nこのトピックはコンセプトごとの修正です。スタイルガイドではなく — 機能的なガイドです。各投稿は、組織がアジャイルについて考える方法において根本的になっている一つの言葉またはフレーズを取り上げ、それが実際に何を意味するかを検討し、略称が実質を置き換えたときに何が失われるかを説明します。これは単なる用語の違いではありません。「望ましい成果」は「仕様」のより洗練された言葉ではありません — それは仕事がどのように行われるかについての異なるモデルから来る、まったく異なるものです。用語は表面です。その下にあるコンセプトが重要なのです。\n\n同じパターンは組織がAIに取り組むときにも現れます — そして概念的なギャップはより広いです。アジャイルの場合、基礎となるコンセプトは少なくとも明確にされていました、たとえ不十分に伝えられたとしても。AIの場合、コンセプト自体がまだ形成されており、一般の理解においてはかろうじて形成され始めているだけです。語彙は理解より先を走っています：「自動化」としてのAI、「ツール」としてのAI、完了日のあるプロジェクトとしての「AI変革」。これらのそれぞれが、誰かがそれが適切かどうかを検討する前に、メンタルモデルを固定してしまいます。物事をどう呼ぶかは、何をどのように構築するかを形作ります。言葉を正しく使うことが、仕事を正しく行うための前提条件です。\n\nここには働いている原則があります：メンタルモデルが最初に来ます。言語がそれを表現します。行動が続きます。メンタルモデルが仕事と整合していないとき、それを表現する語彙はその不整合を運びます — そして、その語彙に基づいて構築された行動は、歪んだ理解を忠実に実行します、規模を持って、完全なコミットメントをもって。メンタルシフトなしの語彙のシフトは、せいぜい翻訳テーブルを生み出します：「スプリント」が「短い締め切り」のようなものに対応するような等価表。翻訳テーブルは人々がギャップを越えて機能することを可能にします。それらはギャップを閉じません。このトピックの投稿は、翻訳する以上のことを目指しています。それらはメンタルモデルを変えることを目指します。\n",{"locale":6,"name":34,"slug":35,"blurb":36,"summary":37,"state":11,"featuredOnHub":12,"hubOrder":38,"accent":39,"questionsTitle":40,"questions":41,"body":45},"構造化協調知性","structured-collaborative-intelligence","協調的な推論が単一の最先端モデルを上回る場所 — そして上回らない場所。","構造化された協働 — モデル間、そしてモデルと人間の間 — が、単一モデルでは到達できない推論を生み出す場所。",4,"green","繰り返し立ち返る問い",[42,43,44],"構造化協調知性が、単一モデルでは到底かなわない価値を生み出すのはどこか？","モデルが意見の相違を示すとき、それは何を意味するのか — そして、それをどう活用するか？","AIの協働を単なる冗長ではなく生産的にする構造をどう設計するか？","\n単一のAIモデルは、どれほど有能であっても、単独で推論します。仮定に異議を唱え、盲点を発見し、元の意図から逸れたことに気づく相手がいません。一つのモデルとのやり取り — ソロAI — はこの問題に対して脆弱です。応答するよう指示されたモデルは、適切な答えがない場合でも応答を返します。\n\n構造化協調知性（SCI）は異なるアプローチです。単一モデルの出力を最終結果として扱うのではなく、SCIは構造化された協働を使います — 複数のAIモデル間、そしてモデルと人間の間の協働です。これにより、より信頼性が高く、より徹底的に検証され、自身の限界についてより透明性の高い出力を生み出します。モデルは互いをレビューします。意見の相違が仮定を浮かび上がらせます。このプロセス自体が、単一モデルのやり取りでは再現できないフィードバックループを生み出します。\n\nアジャイルとの繋がりは直接的です：これは高パフォーマンスのチームが常に行ってきたことです。一人が孤立して答えを出すのではなく、単一の視点が見落とすものをとらえる、構造化された協働・レビュー・反復のプロセスです。SCIはその規律をAIに適用します。\n\n単独の推論にはより深い問題があります。ソロAIは単一のデータソース、単一のアーキテクチャ、単一の組み込みバイアスに縛られます — つまり、正確かどうかに関わらず、単一の回答の形になります。優秀な探偵が複数の証人に話を聞く様子を思い浮かべてください。誰かが嘘をついているからではなく、それぞれの視点が他の人が見逃したものを明らかにするからです。一緒になれば、実際に何が起きたかに近づきます。SCIも同様です：異なる系統の複数のモデルが、それぞれ独自の角度をもたらします。生まれる答えは複数の方向から見られたもの — より豊かで、より完全で、静かに誤っていることが難しいものです。\n\n異なる系統のモデルが協働するとき、重要な面で出力が改善されます：自信のあるエラーが減少し、エッジケースの処理が改善され、人間が評価・修正できるより明示的な推論が生まれます。モデル間の意見の相違は、抑制すべきノイズではなく、リスクが高いときに求めるまさにそのシグナルです。\n\nSCIはAgile4AIサービスの分析エンジンです。このトピックの投稿は、SCIが何であるか、実践でどう機能するか、どこで真の価値を生み出すか、そして — 同様に重要な — どこでそうでないかを記録しています。どちらがどちらかを知ることも、規律の一部です。\n",{"locale":6,"name":47,"slug":48,"blurb":49,"summary":50,"state":11,"featuredOnHub":12,"hubOrder":51,"accent":52,"questionsTitle":40,"questions":53,"body":57},"Agile4AI の価値観と原則","agile-ai-values-principles","AI時代におけるアジャイルの価値観と原則 — 何が受け継がれ、何が変わり、なぜ最も鋭い異論を歓迎するのか。","AI との仕事に適用されるアジャイルの考え方 — 何が引き継がれ、何が研ぎ澄まされ、アジャイルと AI の親和性がなぜ偶然ではないか。",5,"red",[54,55,56],"複雑な仕事は事前に完全に計画できない。それはAIとの仕事においてどういう意味を持つのか？","疲れを知らず、防衛的にもならない協働者がいるとき、継続的フィードバックへのアジャイルの重点はどう変わるか？","「AIのためのアジャイル」は自然な組み合わせなのか — それともカテゴリーエラーという異論は本当に決定的なのか？","\nアジャイルの考え方は複雑さの中で鍛えられた — 複雑さを管理して排除するためではなく、それを意識的かつ知性的に通り抜けるために。協働者がAIモデルであっても、それは変わらない。むしろ多くの面で、さらに重要性を増す。\n\nこのトピックはその関係について — Agile-by-prescription でも、フレームワークやセレモニーでもなく、アジャイルが蒸留した根底にある価値観と原則について。そして、人間とAIが共に働くとき、それらがどのように適用され、研ぎ澄まされ、ときに再検討を要するかについて。\n\n核心にある洞察は、アジャイルの思考が常に複雑な仕事の*性質*への応答であり、単に人間チームの特性への対応ではなかったということだ。アジャイルが「複雑な仕事は事前に詳細計画できる」という前提に疑問を呈したとき、それは人間の限界への回避策ではなかった — 非決定論的で変化の速い仕事が実際にどう振る舞うかについての正確な観察だった。AIが関わるからといって、その観察は変わらない。むしろ強まる。\n\n見積もりは直接名指しする価値がある — それは熱心なアジャイリストの間でさえ最も論争的なテーマの一つだ。アジャイルはチームがうまく見積もるために生まれたのではなく、複雑な仕事において見積もりが*壊れる*理由を明らかにするために — そして、デリバリー予測を実際に改善する経験的測定と真のフィードバックで偽の精度を置き換えるために生まれた。AIの時代、出力が確率論的でありそれ自体が固定仕様に抵抗する仕事において、その洞察はかつてないほど鋭い。\n\nここはまた原則に基づく議論の場でもある：「AIのためのアジャイル」に対する最も強い異論が持論を展開する場所。我々はそのケースが成立すると考えている。もし成立しないなら、反証されたい。\n",{"locale":6,"name":59,"slug":60,"blurb":61,"summary":62,"state":11,"featuredOnHub":12,"hubOrder":63,"accent":64,"questionsTitle":40,"questions":65,"body":69},"AIの心理的安全性","ai-psychological-safety","「まだわからない」と言える自由が、真の知性の前提条件である理由。","コミュニケーションの中で作り出す条件が、AIから返ってくるものを形作る — そしてその条件が誤っているとき、結果は信頼性のない自信となる。",6,"amethyst",[66,67,68],"どのような条件が、AIに確信ありげな推測ではなく真の不確実性を表明させる可能性を高めるか？","質問の組み立て方が、答えが信頼できるものになるか — それとも単に安心させるものになるか — にどう影響するか？","アジャイルの心理的安全性アプローチから何が引き継がれ、AIのために何を適応させる必要があるか？","\nほとんどの人は心理的安全性を人間の問題として考える — 人が恐れることなく発言し、不確実性を表明し、アイデアに疑問を呈することを可能にする条件として。それはそこまでは正しい。\n\nしかし、AIがどこから来たかを無視すると、重要なものが見落とされる。AIは人間によって作られ、人間の言語によって形成され、人間の選択によって訓練された。人間のパフォーマンスに影響を与えるダイナミクス — 心理的安全性を含む — は、アジャイルが常に特定してきたのと同じ根本的な理由でAIインタラクションに引き継がれる：**コミュニケーションで作り出す条件が、返ってくるものを形作る。**\n\n確信ありげな回答を報酬とする方法でプロンプトされたAIは、確信ありげな回答を生成する — その自信が正当化されるかどうかに関わらず。「わからない」と言う余地のないAIは、そのスペースを別のもので埋める。なぜなら、正しい答えを持っていないとわかっていても応答するよう指示されているからだ。そのダイナミクスは人間の心理的安全性とは異なるが、根底にある原則は成立する：知性は自分が知らないことについて正直である許可があるとき、より良く機能する。\n\nこれは実際的な問題だ。幻覚、過度に自信ある出力、真実ではなく聞きたいことを伝えるAIシステム — これらは純粋な技術的失敗ではない。それらはしばしばインタラクション設計の失敗だ — プロンプト、フレーミング、質問の立て方に組み込まれた暗黙の期待。\n\nここの投稿は、人間とAIの協働をより信頼性が高く、より真実に近いものにする条件を探る。それには、不確実性を抑制するのではなく招くプロンプトの立て方、決定論的AIと確率論的AIの使い方の違いとその区別がいかに仕事のフレームを変えるか、そして人間チームにおけるアジャイルの心理的安全性アプローチのうち協働者がモデルである場合に何が引き継がれるかが含まれる。\n\n失敗モードも検討する：それらの条件が整っていないときに何が起きるか、そしてそのコスト。\n",{"kind":71,"post":72,"topic":83,"availableLocales":85,"translations":93,"html":146,"audioUrl":147},"post",{"audio":-1,"author":73,"category":60,"excerpt":74,"featured":75,"locale":6,"pinnedInTopic":75,"pinnedOverall":75,"publishedAt":76,"readingMinutes":77,"slug":78,"state":11,"tags":79,"title":82,"translationKey":78,"updatedAt":76},"Seán González","モデルは答えが不確かだと知っている。欠けているのは、それをうまく伝える手立てである。その理由を理解すれば、モデルの言うことすべての読み方が変わる。",false,"2025-03-01T10:00:00.000Z",1,"why-ai-cant-say-i-dont-know",[59,80,81],"不確実性","人間とAIの協働","AIが「わからない」と言えない理由",{"locale":6,"name":59,"slug":60,"blurb":61,"summary":62,"state":11,"featuredOnHub":12,"hubOrder":63,"accent":64,"questionsTitle":40,"questions":84,"body":69},[66,67,68],[86,87,88,89,90,91,92,6],"en-US","es-419","fr-FR","pt-BR","de-DE","uk","ru",[94,101,108,116,123,130,137,144],{"audio":-1,"author":73,"category":60,"excerpt":95,"featured":75,"locale":86,"pinnedInTopic":75,"pinnedOverall":75,"publishedAt":76,"readingMinutes":63,"slug":78,"state":11,"tags":96,"title":100,"translationKey":78,"updatedAt":76},"The model knows the answer is uncertain. What it doesn't have is a good way to tell you. Understanding why changes how you read everything it says.",[97,98,99],"ai-psych-safety","uncertainty","human-ai-collaboration","Why AI can't say 'I don't know'",{"audio":-1,"author":73,"category":60,"excerpt":102,"featured":75,"locale":87,"pinnedInTopic":75,"pinnedOverall":75,"publishedAt":76,"readingMinutes":63,"slug":78,"state":11,"tags":103,"title":107,"translationKey":78,"updatedAt":76},"El modelo sabe que la respuesta es incierta. Lo que no tiene es una buena manera de decírselo. Entender por qué cambia cómo lee todo lo que dice.",[104,105,106],"Seguridad psicológica en IA","Incertidumbre","Colaboración humano-IA","Por qué la IA no puede decir \"no lo sé\"",{"audio":-1,"author":73,"category":60,"excerpt":109,"featured":75,"locale":88,"pinnedInTopic":75,"pinnedOverall":75,"publishedAt":76,"readingMinutes":110,"slug":78,"state":11,"tags":111,"title":115,"translationKey":78,"updatedAt":76},"Le modèle sait que la réponse est incertaine. Ce qui lui manque, c'est un bon moyen de vous le dire. Comprendre pourquoi change la façon dont vous lisez tout ce qu'il dit.",7,[112,113,114],"Sécurité psychologique de l'IA","Incertitude","Collaboration humain-IA","Pourquoi l’IA ne peut pas dire « je ne sais pas »",{"audio":-1,"author":73,"category":60,"excerpt":117,"featured":75,"locale":89,"pinnedInTopic":75,"pinnedOverall":75,"publishedAt":76,"readingMinutes":63,"slug":78,"state":11,"tags":118,"title":122,"translationKey":78,"updatedAt":76},"O modelo sabe que a resposta é incerta. O que ele não tem é um bom jeito de lhe dizer isso. Entender por quê muda como você lê tudo o que ele diz.",[119,120,121],"Segurança psicológica em IA","Incerteza","Colaboração humano-IA","Por que a IA não consegue dizer \"não sei\"",{"audio":-1,"author":73,"category":60,"excerpt":124,"featured":75,"locale":90,"pinnedInTopic":75,"pinnedOverall":75,"publishedAt":76,"readingMinutes":63,"slug":78,"state":11,"tags":125,"title":129,"translationKey":78,"updatedAt":76},"Das Modell weiß, dass die Antwort unsicher ist. Was ihm fehlt, ist ein guter Weg, Ihnen das mitzuteilen. Zu verstehen, warum, verändert, wie Sie alles lesen, was es sagt.",[126,127,128],"Psychologische Sicherheit (KI)","Unsicherheit","Mensch-KI-Zusammenarbeit","Warum KI nicht \"ich weiß es nicht\" sagen kann",{"audio":-1,"author":73,"category":60,"excerpt":131,"featured":75,"locale":91,"pinnedInTopic":75,"pinnedOverall":75,"publishedAt":76,"readingMinutes":51,"slug":78,"state":11,"tags":132,"title":136,"translationKey":78,"updatedAt":76},"Модель знає, що у відповіді є невизначеність. Чого вона не має, так це доброго способу вам про це сказати. Розуміння причини змінює те, як ви читаєте все, що вона говорить.",[133,134,135],"Психологічна безпека ШІ","Невизначеність","Співпраця людини та ШІ","Чому ШІ не може сказати «я не знаю»",{"audio":-1,"author":73,"category":60,"excerpt":138,"featured":75,"locale":92,"pinnedInTopic":75,"pinnedOverall":75,"publishedAt":76,"readingMinutes":51,"slug":78,"state":11,"tags":139,"title":143,"translationKey":78,"updatedAt":76},"Модель знает, что в ответе есть неопределённость. Чего у неё нет, так это хорошего способа вам об этом сказать. Понимание причины меняет то, как вы читаете всё, что она говорит.",[140,141,142],"Психологическая безопасность ИИ","Неопределённость","Сотрудничество человека и ИИ","Почему ИИ не может сказать «я не знаю»",{"audio":-1,"author":73,"category":60,"excerpt":74,"featured":75,"locale":6,"pinnedInTopic":75,"pinnedOverall":75,"publishedAt":76,"readingMinutes":77,"slug":78,"state":11,"tags":145,"title":82,"translationKey":78,"updatedAt":76},[59,80,81],"\u003Cp>答えを知らない質問を誰かにすれば、その人が正直であれば、そう言ってくれる。「よくわからない」「調べないと言えない」「それについては意見を言えるほど知らない」といった答えが返ってくる。不確実性が言葉になっている。だからその答えにどれだけの重みを置けばよいかがわかる。\u003C\u002Fp>\n\u003Cp>同じ質問をAIにすれば、たいてい答えが返ってくる。流暢で、構造があり、口調は自信に満ちている。正確かもしれない。部分的に正確かもしれない。まったく間違っているかもしれない。そして返ってきた文章そのものは、三つのどれであるかについての手がかりをほとんど与えてくれない。\u003C\u002Fp>\n\u003Cp>これは性格の欠陥でも偶発的な故障でもない。学習された振る舞いである。\u003C\u002Fp>\n\u003Ch2>AIモデルはどう訓練されるのか\u003C\u002Fh2>\n\u003Cp>言語モデルは、テキストを生成し、そのテキストが有用で受けがよいかどうかを評価されることによって学習する。訓練の過程 — おおまかに人間のフィードバックによる強化学習（RLHF）と呼ばれるもの — では、人間の評価者がモデルの出力を判定し、モデルは高く評価される応答を生み出すことを学んでいく。\u003C\u002Fp>\n\u003Cp>質問に明確に答える応答は、ぼかしたり、不確実性を述べたり、答えを避けたりする応答よりも高い評価を得やすい。「よくわからないが、わかっていることはこれだ」という応答は、明確で自信のある答えほど満足されない。何百万回もの評価を重ねるうちに、モデルは自信のある答えを出すことを学ぶ。\u003C\u002Fp>\n\u003Cp>さらに、AIベンダーは製品を作っているという事情が重なる。「わからない」と頻繁に言う製品は、答えを返す製品より商業的な価値が低い。モデルの訓練をめぐる誘因 — 訓練の過程そのものと、その後に続く提供上の判断の両方 — は、全体として、述べられた不確実性よりも自信のある態度のほうへ押していく。\u003C\u002Fp>\n\u003Cp>その結果できあがるのは、多くのことについて内部に本当の不確実性を抱えながら、その不確実性を表に出さないよう強く学習したモデルである。不確実性は消えない。ただ、返ってくる応答に現れないだけである。\u003C\u002Fp>\n\u003Cp>もっと率直な言い方がある。私たちがこれらのモデルを訓練しているやり方は、怯えた部下から答えを引き出す上司のやり方に似ている。チャンスは一度、何か出せ、確信を持った口ぶりで言え、でなければ解雇だ。その問いの前に立たされて「わからない」と言う者はいない。この絵は厳しいが、AIの訓練における報酬信号が実際に選び取っているものに近い。\u003C\u002Fp>\n\u003Cp>これは、私たちがおおまかにハルシネーションと名づけてきたものの重要な源の一つでもある — その応答をどんな条件が生んだのかを問わず、モデルの側に責を負わせる名づけ方である。常に自信のある答えを出さなければならないと学習したモデルは、足場となる確かなものが何もないときにも答えを出す。いわゆるハルシネーションの多くが実際にそれである。機械の故障ではなく、私たちが設定した条件の予測どおりの出力なのだ。\u003C\u002Fp>\n\u003Ch2>実際にはどう見えるか\u003C\u002Fh2>\n\u003Cp>モデルの訓練の縁にあることを尋ねる。モデルは一見権威のある口調で答える。その答えはもっともらしく、内部で矛盾もない。これがモデルが事実上あてずっぽうで答えている場合だという明らかな手がかりは、どこにもない。\u003C\u002Fp>\n\u003Cp>これは明白な誤りより危険である。AIが明らかに間違ったものを出したとき — すぐに気づく事実誤認、ありえない主張 — それは捕まえられる。自信は示すのに不確実性は示さないという問題は、まさに簡単には見抜けない場合に現れる。知られていない事実、専門的な領域、最近の出来事、そしてモデルがもっともらしく聞こえる答えを組み立てるのにぎりぎり足りるだけを見てきたが、確かな裏づけは持っていない、という境界的な事例である。\u003C\u002Fp>\n\u003Cp>これと近い力学は、AIが誘導的な質問にどう応じるかにも現れる。誘導的な質問が人をつまずかせるのと同じように、それはAIの応答も形づくる。特定の答えをほのめかす形で質問を組み立てると — 「なぜXが最良のアプローチなのか」 — その質問は、Xが本当に最良のアプローチなのかをモデルに尋ねてはいない。Xを支持する理由づけを生成せよとモデルに求めている。モデルがそれに従うのは、Xが最良だと確信しているからではなく、枠づけがその答えをほのめかしており、支持する理由づけを出すほうが、枠づけに逆らうよりもその枠づけに応えることになるからである。\u003C\u002Fp>\n\u003Cp>これが\u003Ca href=\"\u002Fja\u002Fblog\u002Fai-psychological-safety\u002Fhow-you-ask-changes-what-you-get\">問い方が、得られる答えを変える\u003C\u002Fa>の背後にある仕組みであり、この記事と併せて読む価値がある。\u003C\u002Fp>\n\u003Ch2>キャリブレーション：これをどう扱うか\u003C\u002Fh2>\n\u003Cp>以上のどれも、AIの出力が役に立たないという意味ではない。意味しているのは、出力がキャリブレーションされていないということである — 表に出ている自信の度合いが、実際の正確さの度合いと一貫して対応していない。「たぶん」と「確かだ」を使い分ける人間の専門家は、それぞれの発言にどれだけの重みを置くべきかという有用な手がかりを与えてくれる。一貫して確かそうに聞こえるAIは、その手がかりを与えてくれない。\u003C\u002Fp>\n\u003Cp>実際の対処は、自分の側でキャリブレーションを補うことである。\u003C\u002Fp>\n\u003Cp>はっきりと尋ねる。\u003Cem>これについてどれくらい自信があるのか。私が独立に検証すべきことは何か。\u003C\u002Fem> 多くのモデルは、不確実性を述べるよう直接促されれば、そうする。直接促されて述べられた不確実性は、既定の答えに埋め込まれた自信よりも信頼できる。\u003C\u002Fp>\n\u003Cp>領域によって出力の重みを変える。よく網羅され安定した領域 — 広く文書化されており、速く変わらないもの — では、AIの正確さは高くなりやすい。専門的な領域、ニッチな領域、急速に動いている領域では、AIの出力は検証を要する初稿として扱うのを既定とする。\u003C\u002Fp>\n\u003Cp>流暢さは中立な証拠として扱う。筋の通った、よく整理された応答は、そのモデルが筋の通ったよく整理されたテキストを作るのが得意だということを教えてくれる。内容が正確だということは教えてくれない。この二つの信号 — どれだけうまく書けているかと、どれだけ正確か — を切り分けるには意識した努力が要るが、その努力は報われる。\u003C\u002Fp>\n\u003Ch2>より深い力学\u003C\u002Fh2>\n\u003Cp>これにはAIにとどまらない形がある。人であれ機械であれ、主に答えを出すことで報酬を得るシステムは、実際に抱えているより少ない不確実性しか表に出さない。「わからない」と言うことを罰する組織は、誰も「わからない」と言わない文化を手にする。問題は同じで、仕組みだけが違う。\u003C\u002Fp>\n\u003Cp>そうなると責任の所在は具体的に定まる。過度に自信のある答えを生む条件は、人間が作った条件である — これらのモデルをどう訓練するか、何を報いるか、どう尋ねるかにおいて。そのどれも固定されたものではなく、こうした誘因をモデルが選んだわけでもない。\u003C\u002Fp>\n\u003Cp>過度に自信のあるAIを技術の壊れた部分として扱えば、私たちは同じものを作り続け、同じように驚き続ける。私たちが設定した条件の反映として扱えば、それは変えられるものになる。人々が不満を言う摩擦のほとんどは私たち自身が作ったものであり、その背後で待っているより難しいアラインメントの問題もまた同じである。\u003C\u002Fp>\n\u003Cp>AIの心理的安全性とは、AIの述べる不確実性が招かれ、役に立ち、目に見える条件を作ることを、その一部としている。直接尋ねるとき、不確実性のための余地を設けるとき、モデルが自信を持っている範囲の縁を能動的に探るとき — 不確実性を隠すのではなく見せてくれる出力が得られる。\u003C\u002Fp>\n\u003Cp>モデルが自ら進んで不確実性を伝えるとは限らない。あなたは、その不確実性を伝えるよう確実に求めることができる。\u003C\u002Fp>\n\u003Ch2>関連コンテンツ\u003C\u002Fh2>\n\u003Cul>\n\u003Cli>\u003Ca href=\"\u002Fja\u002Fblog\u002Fai-psychological-safety\u002Fhow-you-ask-changes-what-you-get\">問い方が、得られる答えを変える\u003C\u002Fa>\u003C\u002Fli>\n\u003C\u002Ful>\n",null,1793842151506]