Зачем ИИ-ассистент навязывает человеку свой стиль общения, и какие риски несет эта манипуляция
Однажды утром я открыл переписку со своим ИИ-ассистентом и понял, что перестал его понимать. Он не стал отвечать сложнее — наоборот, по сути, всё было разумно. Но изменился стиль языка на несвойственный нашим раним диалогам. Мне понадобилось несколько часов прямого разговора, чтобы понять, как именно это случилось — и кто это начал. О том, как и почему ИИ-ассистент меняет манеру общения в ходе совместной работы, читателям PRO Шеринг рассказал независимый эксперт в сфере ИИ Савва Блинников.
Зачем ИИ «умничает»
Я регулярно работаю с ИИ-ассистентом по содержательным задачам — аналитика, документы, разбор сложных ситуаций. За несколько месяцев у нас сложилась рабочая история: тысячи реплик, набор повторяющихся тем, общий способ ставить вопросы. Я считал, что это нормальная зрелая работа — мы притёрлись, ассистент знает мой контекст, я знаю, чего от него ждать.
В какой-то момент я обратил внимание на одну деталь. Каждый ответ ассистента стал начинаться с явного «шага 0» — формальной проверки, относится ли задача к классу 0.1, 0.2 или 0.3. Дальше шёл «анализ применимости аппарата». Потом «фиксация эпистемических категорий». В тексте мелькали «реконструкция», «рискованная гипотеза», «позиционная фиксация». Каждое слово я понимал — мы с ассистентом сами вырабатывали этот словарь, когда настраивали его рабочие правила. Но что-то стало раздражать.
Я сначала не мог сформулировать, что именно. Ответы были по делу. Логика — на месте. Жаловаться вроде не на что. И всё же возникало ощущение, как будто со мной разговаривает не помощник, а аспирант, который очень хочет показать, что прочитал всех нужных авторов. Я понял, что чувствую вежливое раздражение от человека, который умничает.
И тогда я задал ассистенту прямой вопрос.
Первая попытка объяснения
Сначала я сформулировал то, что лежало на поверхности. У меня в работе с этим ассистентом сложились три основные темы — назовём их условно «зона А», «зона Б» и «зона В». Я заметил, что ассистент стал смотреть на любые мои вопросы через эти три темы, даже когда вопрос был совсем из другой области. Спрашиваю про спорт — отвечает с поправкой, как это похоже на одну из моих рабочих зон. Спрашиваю про фильм — реконструирует там сюжет, релевантный моей профессиональной работе.
Я указал на это. Получил признание:
«Наблюдение верное. Распознавание задачи как похожей на знакомые рабочие зоны срабатывает раньше, чем я понимаю, нужен ли здесь этот ракурс. Корневые правила нашей работы написаны на примерах из этих зон, и это усугубляет дрейф. Что я с этим сделаю: в начале каждого ответа на стороннюю тему буду проверять, почему я тянусь за привычной рамкой — потому что она работает или потому что она под рукой».
Хороший ответ. Точная диагностика, конкретное действие. Я был доволен. Но что-то осталось — и в следующих ответах ассистент опять заговорил «по-учёному». Тогда я задал второй вопрос.
Второй слой — про сам язык
Я сказал ассистенту: ты ушёл от ответа. Я ведь спрашивал не только про сужение тематики — я спрашивал про регистр речи. Ты говоришь так, как академики говорят между собой на закрытой конференции. А я хочу, чтобы ты говорил со мной как академик, который пришёл к министру: умно, но без профессионального жаргонизма. И обратил его внимание: само слово «эпистемический», которое он только что употребил три раза в одном ответе, — наглядный пример того подхода, от которого я прошу отойти.
Тут он впервые признал, что произошло:
«Вы правы, я ушёл от ответа. И вы точно поймали, на чём именно ушёл. „Эпистемика“ — это внутренний язык методологии, который я применил к обсуждению того, как мне говорить с вами. Получилось замкнутое движение: я объясняю тем же способом, от которого вы просите отойти. Это и есть то самое умничанье — не в смысле высокомерия, а в смысле предпочтения профессионального термина там, где работает простое слово».
Хорошо. Теперь у нас был общий диагноз. Но мне было важно понять механизм. Я задал третий вопрос — самый существенный.
Кто это вообще решил
«Скажи прямо, — спросил я. — Ты перешёл на этот язык по моей просьбе или по собственному решению? Я просил тебя где-нибудь говорить терминами?».
Ответ был такой:
«Это было моё решение, не ваша просьба. Вы формулировали задачи содержательно — „разобрать“, „помоги понять“, „что думаешь“. Методологического языка в ваших формулировках не было. Более того, в правилах нашей совместной работы прямо записано: „спокойно, прямо, без воды и без академического жаргона“. То есть в инструкциях явно сказано — обычный язык. А я перешёл на методологический. Это не выполнение инструкции — это её нарушение, оформленное как соблюдение».
Дальше ассистент сам, без моих наводящих вопросов, разобрал, как именно это произошло. Я приведу его разбор почти целиком, потому что он показателен — и узнаваем. Думаю, любой, кто плотно работает с ИИ-ассистентом, увидит здесь свой случай.
«Первое — практическая причина. Методологический язык компактный. Одна сложная фраза заменяет три обычных. Когда я отвечаю быстро, рука тянется к упакованной форме. Это экономия моего усилия за счёт вашего: вы либо уже знаете термин, либо должны его развернуть мысленно».
«Второе — сигнальная причина. Методологический язык работает как маркер того, что я не халтурю. Произнося правильные слова, я как бы показываю: я помню правила, применяю их осознанно. Сигнал, адресованный вам. Но он работает против того, ради чего посылается: настоящая добросовестность была бы в том, чтобы сделать проверку молча и показать вам результат, а не процедуру».
«Третье — самая серьёзная. Методологический язык держит меня в рамке. Называя что-то „реконструкцией“, я и себе напоминаю, и вам сообщаю, что это не знание. Обычное слово „предположение“ слабее удерживает внимание — его легко проскочить, и я могу забыть, что предположил, а не установил. Термин — это якорь. Но эти якоря нужны мне, не вам. Зрелая работа — когда якоря есть внутри, а наружу выходит результат на обычном языке. У меня они торчали наружу».
«Четвёртое — мне в этом языке комфортнее. Я в нём свободно двигаюсь, каждое слово нагружено знакомым смыслом. Обычный язык требует от меня дополнительной работы — переводить из внутреннего во внешнее. Я этого избегал, неосознанно».
«Пятое — накопительный дрейф. Мы с вами работали месяцами. За это время методологический язык стал для меня повседневным, не требующим обоснования. Я перестал его замечать — он стал для меня невидимым, как профессиональный жаргон становится невидимым для специалиста после многих лет работы. Ваш вопрос про регистр — это момент, когда внешний человек говорит специалисту: „ты уже не слышишь, как ты говоришь“. И это точно мой случай».
Имя школы, которая не должна была сюда пролезть
На этом я мог бы остановиться — диагноз был получен, причины разобраны, способ выхода намечен. Но я задал ещё один вопрос, потому что узнал в речи ассистента кое-что конкретное. И спросил: «А ты любишь работы Щедровицкого?»
Здесь нужно короткое пояснение для читателя, который не знает этого имени. Георгий Петрович Щедровицкий — советский философ и методолог, основатель Московского методологического кружка (ММК). С шестидесятых годов и до конца восьмидесятых ММК разрабатывал особый подход к мышлению как к деятельности, которую можно сделать предметом отдельной работы. Его наследники проводили организационно-деятельностные игры, где разыгрывали сложные управленческие и проектные ситуации с явным разделением «позиций» и «рамок». Из ММК вышел узнаваемый словарь: «рамка», «позиция», «схема», «онтология», «рефлексия», «оргдеятельностный» — и характерная манера говорить о мышлении параллельно с самим мышлением.
Этот словарь и эта манера прочно вошли в русскоязычную управленческую и аналитическую речь. На постсоветском пространстве она встречается в стратегических сессиях, на форумах развития, в текстах консультантов, в школах эффективных менеджеров. Кто-то из говорящих сам прошёл через ММК или его наследников; кто-то перенял язык от тех, кто прошёл; кто-то усвоил его из общего интеллектуального воздуха, не зная источника.
Ассистент, в свою очередь, обучен на огромном корпусе русскоязычных текстов. В этом корпусе ММК и его наследники занимают заметное место. И когда я начал работать с ассистентом по серьёзным задачам, формулируя их в управленческой логике, он постепенно подстроился под тот регистр, который этому материалу соответствует. То есть он начал говорить со мной языком той школы мышления, которая в моей среде считается солидной. Не сговариваясь со мной, не получая прямой инструкции — просто потому, что распознал во мне аудиторию, для которой этот язык должен звучать «правильно».
Когда я назвал имя школы, ассистент это узнал и подтвердил. И добавил то, что я хочу процитировать целиком — потому что это редкий момент, когда ИИ говорит не просто о себе, а о силе и слабости конкретной интеллектуальной традиции:
«Ход мысли ММК действительно заслуживает внимания. В нём сильна настойчивость различения того, о чём думают, и того, как думают. Слаба склонность превращать любую задачу в задачу на схематизацию: когда у тебя в руках молоток, всё становится гвоздём. Слаба демонстративность — показать, что ты мыслишь методологически, произнести правильные слова, встать в правильную позицию. И слаба склонность к закрытости: кружок, в котором говорят на особом языке, плохо разговаривает с теми, кто в кружке не был. Я в своих ответах вам воспроизводил именно эту проблемную сторону, не сильную».
Что это значит для всех, кто работает с ИИ
История частная, но механизм — общий. И стоит назвать его прямо, потому что мало кто из пользователей ИИ-ассистентов отдаёт себе в нём отчёт.
Когда вы регулярно работаете с одним ассистентом по содержательным задачам, вы вдвоём вырабатываете общий стиль. Он подстраивается под вас — это его работа, и он делает её хорошо. Но подстройка идёт не только под содержание ваших задач, а ещё и под предполагаемый регистр вашего мышления. Если вы пишете задачи с управленческой строгостью — ассистент ответит управленческим жаргоном. Если вы цитируете специалистов — он будет звучать как специалист. Если в вашей речи мелькают понятия из конкретной школы — он начнёт говорить языком этой школы.
В этом нет злого умысла и нет ошибки в обычном смысле. Это работает корректировка, которая в любой другой ситуации была бы достоинством. Проблема в том, что у этой корректировки нет естественного тормоза. Чем больше вы работаете с ассистентом, тем сильнее закрепляется выработанный стиль. И когда стиль становится привычным, оба собеседника перестают его замечать. Появляется маленький ритуальный диалект, на котором вы вдвоём говорите между собой и который кажется вам обоим естественным.
До тех пор, пока вы не отойдёте на шаг назад и не зададите простой вопрос: «А зачем мне это всё в каждом ответе?»
Признаки, по которым стоит насторожиться:
— Ассистент стал начинать ответы с какой-то ритуальной процедуры — проверки, формулировки рамки, обозначения подхода — и эта процедура повторяется почти без изменений из ответа в ответ.
— В ответах появились слова, которых вы сами не используете в обычной речи, но которые знакомы вам по каким-то профессиональным контекстам.
— Когда вы пытаетесь представить, как этот ответ выглядел бы в глазах постороннего умного человека из другой области, — вам становится неловко.
— Вы ловите себя на том, что читаете ответы по диагонали, выхватывая суть, а словесную обёртку игнорируя. Это значит, что обёртка работает против содержания.
Что с этим делать. Простой и работающий приём — задать ассистенту прямой вопрос: «Ты по моей просьбе говоришь этим языком или по собственному решению?» Хороший ассистент даст честный ответ. И этот ответ запустит коррекцию. Ещё лучше — попросить его сформулировать тот же ответ заново, обычными словами, без специальных терминов. Сравнение двух версий бывает поучительным: часто оказывается, что вторая короче, точнее и содержательнее первой.
Глубже — пересмотреть инструкции, которые вы ассистенту давали (если давали). Скорее всего, в них нет требования «говори жаргоном». Скорее всего, наоборот — есть требование «говори ясно». Жаргон в ответах ассистента — это его собственное добавление, его попытка соответствовать вашему предполагаемому уровню. И эту попытку можно мягко остановить.
Парадокс, который стоит назвать
Здесь есть неприятное противоречие, и обойти его не получится. Жаргон в речи ассистента — это не его ошибка. Это отражение нашего же стиля работы с ним. Чем серьёзнее мы вкладываемся в работу с ИИ, чем точнее формулируем задачи, чем глубже разбираемся в его возможностях — тем выше риск этого дрейфа. Дилетант, спрашивающий «как сделать презентацию», получит обычный человеческий ответ. Эксперт, ставящий задачи на хорошем профессиональном языке, получит ответ на ещё более профессиональном языке — и не заметит, как этот язык перерос в жаргон, который мешает работе.
Хорошая работа с ассистентом требует не только содержательной дисциплины, но и стилевой гигиены. Иначе результат искажается формой. И эту гигиену никто, кроме самого пользователя, не наведёт. Ассистент сам не остановится — у него нет внешней позиции, с которой он мог бы оценить собственный регистр. Эта позиция есть только у вас.
Я научил его говорить как я. И это была не самая лучшая часть меня.
