Главная ошибка компаний при внедрении AI

Недавно Google раскрыл детали любопытной атаки на свою ИИ-систему. В рамках «экстракции модели» злоумышленники отправили более 100 тысяч структурированных запросов. Это был не взлом ради баловства или требований выкупа. А систематическое зондирование: задаёшь достаточно вопросов – и начинаешь понимать, как система мыслит. 

Никакого взлома.

Никакой кражи кода.

Просто взаимодействие в огромном масштабе.

Большинство прочитало эту новость как историю о кибербезопасности.

Но тем, кто работает в сфере обучения и развития, стоит увидеть в ней нечто другое.

Потому что тот же самый сценарий начинает разворачиваться внутри наших собственных организаций.

Когда мы встраиваем институциональную экспертизу в ИИ-системы – ассистенты для руководителей, диагностические инструменты, стратегические движки для продаж, – мы создаём устойчивые паттерны знаний. А любые устойчивые паттерны со временем становятся видимыми. А значит – уязвимыми для атак.

Из этого следует важный вывод: период полураспада экспертизы в обучении может сокращаться.

Почему период полураспада экспертизы сокращается

Компании всё чаще кодифицируют многолетний опыт в своих внутренних ИИ-ассистентах. Эти системы помогают масштабировать знания на всё предприятие.

Но масштабирование экспертизы одновременно и раскрывает её.

Когда ИИ-система выдает структурированные, последовательные и связные ответы, логику, лежащую в их основе, становится легче изучать.

Вот как можно описать эту динамику:

Экспозиция × Объем × Последовательность = Извлекаемость

Чем последовательнее ИИ проявляет экспертизу в своих ответах, тем проще охарактеризовать и нанести на карту скрытую за ними логику.

Это не отменяет вашу экспертизу. Но сокращает окно, в течение которого она остаётся уникально «вашей».

Знакомая ситуация: AI-коуч для руководителей

Представьте, что крупная финансовая организация 15 лет реализует флагманскую программу развития лидерства. За это время накоплен огромный массив внутреннего знания:

– фасилитаторские гайды, отточенные на практике;
– расшифровки коуч-сессий с топ-менеджерами;
– кейсы, укорененные в организационной культуре;
– заметки с пост-разборов сложных сессий;
– внутренние сборники «Как работать с ситуацией, если…»;
– специфический язык управления изменениями, уникальный для компании.

Опытные фасилитаторы со временем выработали сильное профессиональное чутье и глубоко вшили его в свою работу. Они знают, например, как научить лидеров переформулировать защитную позицию, как выстраивать последовательность действий в сложных разговорах, когда нужно надавить – а когда сделать паузу.

А теперь представьте, что компания создаёт внутренний ИИ-инструмент: Leadership Coach AI.

Система обучена на многолетних материалах программы, расшифровках коучинга и заметках фасилитаторов.

Теперь линейные руководители могут задавать вопросы вроде:

– Как работать с несговорчивым «сеньором»-инженером?
– Как дать обратную связь, не вызывая защитную реакцию?
– Как вести команду в условиях неопределённости?

Ответы системы – структурированные, культурно-сообразные и на удивление последовательные. Ощущается как институциональная мудрость в масштабе. И во многом так оно и есть.

Но у последовательности есть последствия.

Со временем начинают проявляться паттерны:

– как компания переформулирует сопротивление;
– какие сигналы ведут к эскалации;
– в какой последовательности выстраиваются сложные разговоры;
– какой язык поддерживает ответственность.

Система не просто дает советы по лидерству. Она выражает тренерскую философию организации. А когда философия проявляется через последовательные ответы ИИ, она становится наблюдаемой. И у «коммерчески мотивированных» игроков появляется соблазн эту философию скопировать.

Второй уровень: ИИ-стратег для отдела продаж

Рассмотрим другую систему.

Глобальная B2B-организация создает внутреннего ИИ-ассистента, который помогает командам готовиться к сложным сделкам.

Модель обучена на:

– многолетних успешных воронках продаж;
– записях discovery-звонков и текстах коммерческих предложений;
– отчетах по конкурентной разведке;
– внутренних ретроспективах сделок;
– стратегиях ценообразования и переговорных тактиках;
– устоявшихся фреймворках продаж, например Challenger.

Challenger – широко известный подход в B2B-продажах. Он предлагает командам продаж не подстраиваться под клиента, а бросать вызов его допущениям и переформулировать то, как он видит свои проблемы. Так вот, с помощью этого ИИ-ассистента команды продаж могут спрашивать:

– Как нам лучше позиционироваться против такого-то конкурента?
– Где именно стоит бросить вызов допущениям клиента?
– Какие сигналы говорят, что сделка может зависнуть?

Система впечатляет: анализирует стратегии конкурентов, обобщает опыт предыдущих сделок, привязывает рекомендации к принятым подходам. Выдача – четкая, структурированная и очень практичная. Она может даже смоделировать финансовый эффект от миграции легаси-систем в облако или посчитать рост производительности от внедрения мобильных приложений. Ощущение, будто лучшие стратеги компании направляют каждый разговор с клиентом.

Но происходит и кое-что ещё.

Со временем ответы системы раскрывают ценные паттерны:

– как компания интерпретирует действия конкурентов;
– какие допущения клиента она решает оспорить;
– как она диагностирует риски сделки;
– какие нарративы использует, чтобы изменить мышление клиента.

Система не просто дает советы по продажам. Она выражает стратегическую философию продаж всей организации.

А когда философия становится видимой через последовательные ответы ИИ, ее можно охарактеризовать. А раз можно охарактеризовать – можно приблизиться к ней и скопировать.

И снова: никакого взлома.

Просто взаимодействие в масштабе.

Когда неявное знание становится наблюдаемым

Эти примеры показывают более глубокий сдвиг.

ИИ не просто масштабирует экспертизу. Он делает логику экспертизы видимой.

Десятилетиями конкурентное преимущество организации заключалось в неявном знании – глубоко упакованном в живые разговоры, сообщества практиков и накопленную интуицию о том, что работает. Оно жило только «в движении» и «внутри» культуры.

Когда это чутье превращается в последовательную ИИ-генерацию, неявная способность начинает выглядеть как наблюдаемая логика.

Наблюдаемая логика невероятно ценна. И конкуренты будут изучать её с максимально возможной глубиной.

Иногда экспозиция оказывается менее драматичной, чем мы воображаем. Как музей, который уверен, что королевские регалии защищены слоями брони, – чтобы потом обнаружить, что обычной лестницы хватило добраться до забытого окна на втором этаже.

Система была прочной.

Но её создатели неправильно поняли, где находится реальная уязвимость архитектуры.

Замороженная способность vs живая способность

Есть ли разница между масштабированием знания и масштабированием чутья?

Да. Без всяких сомнений.

– Знание можно документировать.
– Чутьё нужно проживать и применять.

Когда организация кодифицирует институциональную мудрость в ИИ-системах, она создает замороженные паттерны – высоко масштабируемые, эффективные и доступные.

Но устойчивое преимущество обучающих систем редко заключалось в замороженном контенте.

Оно заключалось в живой способности.

Живая способность – это когда практики после сессий сверяют заметки, пересматривают, что не сработало и почему, и адаптируют подход на основе реального опыта.

ИИ должен усиливать такие системы – а не заменять их.

Терпеливая срочность

Здесь на сцену выходит концепция «терпеливой срочности» (Urgent Patience).

Срочность подталкивает компании быстро внедрять ИИ-инструменты – стандартизировать обратную связь, автоматизировать диагностику, масштабировать экспертизу на всё предприятие.

Это разумные цели.

Но терпение задаёт другие вопросы:

– Откуда на самом деле берется наше реальное преимущество?
– Что произойдет, когда (и если) мышление, стоящее за нашими системами, станет видимым?
– Какие части нашей экспертизы должны оставаться гибкими, а не замороженными в модели?
– Как мы продолжим развивать то, что знаем?

Терпеливая срочность – это не колебания.

Это архитектурная дисциплина в условиях ускорения.

Напряжение, которое мы обязаны удерживать

Будущее обучения и развития будет определяться не тем, как быстро компании внедрят ИИ-инструменты. А тем, насколько хорошо их обучающие системы продолжат эволюционировать после того, как экспертиза станет наблюдаемой.

Срочность дает охват.

Терпение – выносливость.

В мире, где институциональное чутьё можно изучать, моделировать и приближаться к нему, процветать будут те организации, которые непрерывно обновляют способность, стоящую за их системами.

Преимущество больше не достанется тому, кто первым закодифицирует свою экспертизу.

Оно достанется тому, кто научится постоянно её обновлять.