Существует версия советов по промптингу, которая рассматривает взаимодействие с ИИ как запрос к поисковой системе: сформулируйте точно, включите нужные ключевые слова, получите лучший результат. Этот совет не ошибочен, и он работает с видимой частью проблемы. Ценность — в том, чтобы выявить то, на что никто не смотрит.
Более глубокая проблема в том, что то, как вы формулируете вопрос, не просто определяет, о чём вы спрашиваете. Это формирует тип ответа, которого вы ожидаете. И ИИ читает эти подразумеваемые смыслы и делает всё возможное, чтобы его выдать, — как вы и просили.
Предпосылка, о которой никто не упоминает
Прежде формулировки есть нечто более фундаментальное: смирение.
Если вы начинаете разговор с ИИ, уже зная, каким, по вашему мнению, должен быть ответ, ваши вопросы это отразят. Вопрос будет сформирован — осознанно или нет — так, чтобы приглашать к подтверждению. И модель, которая очень хорошо распознаёт, какого рода ответ подразумевает формулировка, часто его и выдаст, верный это ответ или лучший или нет, потому что именно об этом вы и просили.
Это та же ловушка, что возникает в разговоре с любым специалистом, обладающим тем пониманием, к которому вы пытаетесь получить доступ. Заданный вами вопрос либо открывает, либо закрывает пространство для действительно иного ответа. Без подлинной открытости к тому, что существует больше, чем человек ожидает или предполагает, структура вопроса тихо сигнализирует, как выглядит приемлемый ответ, — и обычно именно такой ответ вы и получаете.
Смирение делает эту открытость обязательной. Это условие, которое даёт вопросу возможность получить неожиданный ответ, а не заранее сформированный. И это предпосылка безопасного сотрудничества с ИИ, а не запоздалая мысль.
Что делает формулировка
Вопрос, который уже содержит ответ, часто получает этот ответ обратно. «Почему X — лучший подход?» породит рассуждение в пользу X. «Каковы основные недостатки Y?» породит список недостатков. Это не плохие вопросы, и они закрытые: они сообщают модели, к какому выводу двигаться, и просят подкрепляющее рассуждение.
Модель, отвечающая на закрытый вопрос, не обманывает и не галлюцинирует. Она откликается. Она делает то, что подразумевала формулировка: подтвердить, развернуть, подкрепить.
Проблема возникает, когда вам нужна была действительно открытая оценка, а вы получили подтверждение. Ответ выглядит основательным. Он связный, хорошо обоснованный, часто точный. И он мог полностью упустить те соображения, которые привели бы вас к иному выводу, — потому что вы вывели эти соображения за рамки вопроса.
Вопросы, приглашающие неопределённость
Альтернатива — встроить подлинную открытость в сам вопрос.
Несколько примеров такого сдвига:
«Каковы преимущества этого подхода?» → «Каковы самые сильные аргументы за и против этого подхода и где ключевые неопределённости?»
«Этот анализ верен?» → «Что должно быть истинным, чтобы этот анализ оказался неверным? Каковы его самые слабые места?»
«Как нам следует поступить в этой ситуации?» → «Каковы важнейшие соображения здесь, включая те, которые могут усложнить очевидный ответ?»
Это не смягчённые версии того же вопроса. Они меняют то, что модель оптимизирует. Открытый вопрос даёт модели пространство — и неявное разрешение — выявлять сложность, называть неопределённость и оспаривать саму формулировку, а не работать внутри неё.
Связь с психологической безопасностью
Психологическая безопасность ИИ — не про то, чтобы ИИ было комфортно. Она про создание условий, в которых неопределённость можно выразить прямо, а именно это и позволяет ИИ выдать наиболее ценный результат. Без этих условий у модели остаётся лишь один вариант: ответ, который укладывается в заранее сформированную форму вопроса. Дверь остаётся закрытой.
Когда создаваемые вами условия не оставляют места подлинной неопределённости, вы её не получите. Модель, которую спрашивают так, что это вознаграждает уверенные ответы, будет давать уверенные ответы — не потому, что она пытается ввести вас в заблуждение, а потому, что формулировка сказала ей: уверенность — это то, что вам нужно.
Agile-команды усвоили это в отношении сотрудничества между людьми: люди в средах, которые наказывают за сомнение, выражают уверенность, даже когда её не чувствуют. Среда формирует результат.
Та же динамика применима к ИИ. То, как вы спрашиваете, формирует то, что вы получаете, — не только на поверхностном уровне формулировки, но и на более глубоком уровне того, что взаимодействие вознаграждает и что подавляет. Смирение и открытая формулировка, которая из него следует, — вот что меняет эту динамику.
Связанные материалы
- Why Your AI Prompts Underperform (And How to Fix Them) — Agile4AI на YouTube
Комментарии 0