Слишком умный, чтобы им пользоваться

Добрую часть рабочего дня я опираюсь на ИИ и уже писал о том, чего эта помощь стоит и во что обходится. Здесь — о другом, что я заметил далеко не сразу: сколько людей вокруг меня, очевидно более толковых, чем я, — и в своём деле, и вне его, — посмотрели на тот же самый инструмент и решили, что он не для них.

Одна из них — юрист, которая находит несущую фразу в сорокастраничном договоре быстрее, чем я нахожу собственные ключи. Она один раз попробовала ChatGPT, спросила о чём-то в пределах своей компетенции, увидела, как он ссылается на несуществующее дело, и закрыла вкладку так, как заканчивают разговор с тем, кто только что соврал в лицо. Это было два года назад. Больше она не возвращалась. Когда я сказал ей, что для меня это стало самым полезным прибором на столе, она посмотрела на меня взглядом, который я научился узнавать, — тем, что мягко понижает оценку твоего здравомыслия.

Я считал, что такие, как она, — упорное меньшинство, отставшие, а прилив компетентных течёт в другую сторону. Потом я пошёл посмотреть, кто на самом деле пользуется этими инструментами, ожидая, что цифры аккуратно рассортируют мир на любопытных и нелюбопытных. Они сделали кое-что более странное. Про ChatGPT слышали уже почти все; при этом к началу 2026 года хоть раз открывали ИИ-чат чуть меньше половины взрослых американцев, каждый день в него заходит около четверти, а больше половины не заходят никогда (Pew Research Center). Это, положим, вы и так подозревали. Удивляет форма разлома. Пользование не редеет по мере подъёма по лестнице образования и умения — оно вместе с ней растёт. Человек с учёной степенью почти втрое чаще открывал ChatGPT, чем тот, кто ушёл из школы в восемнадцать (Pew). А исследователи, которые эти системы строят и изучают, настроены к ним куда радужнее публики: пятьдесят шесть процентов специалистов ждут хорошего исхода против семнадцати процентов у всех остальных — один из самых широких разрывов, какие Pew вообще фиксировал по какой-либо технологии.

Значит, вопрос я задавал с обратного конца. Загадка не в том, почему держатся в стороне неоснащённые. Она в том, почему среди людей со всеми преимуществами так многие толком и не начали — почти половина тех обладателей степеней ни разу его не открывали, а в профессиях, где он должен окупаться сильнее всего, — в юриспруденции, разработке, журналистике, маркетинге, — почти шестеро из десяти не пользовались им для работы (PNAS). И почему из тех, кто всё же пробует, столь многие уходят после первой же встречи.

Я пришёл вот к чему: ум доводит тебя до порога и не дальше. Он выигрывает тебе бесплатную пробу. А то, что происходит потом, определяют пять вещей, к твоему уму отношения почти не имеющих, — и две из них, как выясняется, тем сильнее, чем ты умнее. У инструмента, который вроде бы должен вознаграждать сообразительных, встроена пара люков ровно под них.

Пустой прямоугольник

Любой инструмент, каким вы когда-либо пользовались, сам говорил вам, для чего он. У фотоаппарата есть спуск, у калькулятора — клавиатура; назначение отлито в самой вещи, и позвонить молотком у вас выйдет не легче, чем спутать его с телефоном. То, что открывается, когда вы запускаете ChatGPT, — пустой прямоугольник и мигающий курсор. Это первый массовый инструмент в истории, который поставляется вообще без встроенного назначения.

Звучит как свобода. Для большинства это ближе к маленькому ступору. Полвека исследований о том, почему люди осваивают технологию, упираются в одну и ту же переменную, и это не мощь и даже не простота — это способность человека представить, как эта штука улучшит то, что он и так делает; в литературе её зовут воспринимаемой полезностью, и это сильнейший одиночный предсказатель того, возьмут инструмент в руки или нет (Davis). Фотоаппарат даёт вам её даром: его дело написано на лице. Пустой прямоугольник не даёт ничего. Дело вам нужно принести самому, и если вы за первую минуту не придумаете, что ему принести, инструмент уже провалил прослушивание.

Прогоните ИИ по старому перечню, предсказывающему, как быстро расходится новшество, и он провалит почти каждую строку (Rogers). Он явно лучше того, что заменяет? Не скажешь — вы ещё не решили, что он заменяет. Он ложится на то, как вы уже работаете? Нет — он требует изобрести новые привычки. Он прост? Нет. Видят ли другие смысл, когда вы им пользуетесь? Нет; что бы ни произошло, происходит невидимо, в приватном окне, которого никто больше не читает. Он проходит один-единственный тест: попробовать можно мгновенно, бесплатно, без риска. Оттого-то цифры проб астрономические, а собственно привычка редка. Сотни миллионов людей подошли к прямоугольнику, набрали одну фразу, ощутили разочарование и ушли. А поскольку никто не сказал им, для чего он, большинство потянулось к ближайшему знакомому и решило, что это поисковик.

Это не поисковик

Наберите запрос в поисковой строке — и получите ранжированный список того, что написали другие. Наберите те же слова в языковой модели — и получите то, чего прежде не существовало, собранное по слову из вероятностей: правдоподобный абзац, который может быть верным, может быть уверенно неверным и не идёт ни с какими ссылками для проверки. Машина ничего не ищет. Она предсказывает, как выглядел бы хороший ответ. Если вы думаете, что «гуглите», всё это — дефект. Как только вы понимаете, что нет, часть этого становится всем смыслом.

Когда исследователи усадили неспециалистов за эти инструменты и стали смотреть, вернее всего результат портила не нехватка ума, а привычка обращаться с машиной как с человеком (CHI 2023). Люди были с ней вежливы, полагая, что учтивость приносит ответы получше. Принимали одну удачную подсказку за общее правило. Считали, что раз она выдаёт гладкую речь, то в каком-то смысле их понимает. Вердикт исследователей был сух: наши рефлексы разговора с другим человеком здесь не просто бесполезны — они «фундаментально сбивают с толку». И неверная картинка не тускнеет с практикой — она застывает. В одном опросе двое из трёх американцев допускали, что ChatGPT может быть сознателен, и чем плотнее человек им пользовался, тем больше разума ему приписывал, а не меньше (Colombatto & Fleming). Привычность, растворяющая большинство заблуждений, это — углубляет.

Правило одного промаха

Вернёмся к моей юристке и делу, которого не было. Её реакция — одна ложь, вкладка закрыта, конец — кажется просто здравым смыслом. Но это ещё и вполне определённый, чуть иррациональный рефлекс, и у него есть имя.

В серии экспериментов люди смотрели, как работают статистическая модель и человек-прогнозист, а затем ставили собственные деньги на то, чьим дальнейшим прогнозам доверять (Dietvorst, Simmons & Massey). Модель была явно выгоднее; в некоторых версиях она ошибалась вдвое реже людей. Это ничего не меняло. Стоило людям один раз увидеть осечку модели — они бросали её и ставили на человека, нередко на того самого, при них показавшего результат хуже. Людям мы держим открытой кредитную линию, а машинам вручаем правило одного промаха. Вы делаете десяток неверных поворотов в год и ни разу не усомнитесь в собственном вождении; навигатор один раз уводит вас не туда — и вы месяц ему не верите.

Жжёт сильнее оттого, что осечки случаются там, где их меньше всего ждёшь. Трудную задачу машине мы простить готовы, а лёгкую — нет, и языковая модель промахивается именно на лёгких: выдуманная ссылка, неверная дата, функция, которой в библиотеке никогда не было, — а через то, что должно быть труднее, проходит гладко. Хуже того, она ошибается тем же уверенным, ровным голосом, каким говорит, когда права, так что в интонации нет ни намёка на провал. Тот самый авторитет, что делает верный ответ убедительным, превращает неверный в предательство.

Вот первый люк. Казалось бы, компетентность — знание, достаточное, чтобы поймать машину, — должна делать человека лучшим её пользователем. Выходит наоборот. В том же исследовании те, кто резче всех сбрасывал модель со счетов и терял на этом больше всего точности, оказались экспертами: опытные профессиональные прогнозисты доверяли алгоритму меньше, чем новички, и были от этого измеримо в проигрыше (Logg, Minson & Moore). Чем больше твоё собственное суждение доказало свою состоятельность, тем сильнее противоречащая тебе машина читается как выпад, а не как второе мнение. Моя юристка не то чтобы не понимает инструмент. Она делает ровно то, чему учит компетентность, — доверяет прибору, который выверяла двадцать лет, то есть себе, — и этот рефлекс, безотказный во всём прочем, и есть тот, что закрыл вкладку.

Показательно, что чинит это в лаборатории не лучшая модель. А руль. Дайте людям править выход алгоритма — пусть пустяково, пусть даже слегка ухудшая результат, — и их готовность им пользоваться более чем удваивается (Dietvorst 2018). Дело было вовсе не в точности. Дело было в том, чтобы держать руку на руле. Оттого-то те облики ИИ, что приживаются, — которые предлагают строчку на «принять или отклонить», а не обещают сделать всю работу за тебя, — и побеждают. Они оставляют руль тебе.

Как будто жульничаешь

Есть преграда, никак не связанная с тем, работает ли инструмент, и целиком — с тем, как ты при этом выглядишь. В экспериментах с несколькими тысячами человек тех работников, что пользовались ИИ, окружающие судили как более ленивых, менее компетентных и менее старательных, чем тех, кто выдал то же самое иначе, — и, чувствуя это нутром, они его прятали (PNAS 2025). Инструмент, делающий тебя быстрее, заодно делает так, что кажется, будто ты этого не заслужил.

Кара пристаёт к признанию, а не к работе. Показанные без подписей стихи читатели ставили выше, когда те были написаны ИИ; узнав задним числом, где чьё, те же самые стихи они занижали (Porter & Machery). Ни слова не изменилось. Только история о том, откуда взялись слова. В основе — старый инстинкт: усилие мы читаем как меру ценности. Стихотворение, картину, рыцарский доспех люди оценивают тем выше, чем больше труда, по их мнению, в них вложено (Kruger и др.). Всё предложение ИИ в том и состоит, чтобы стереть видимый труд и оставить результат, — а значит, он вычищает ровно ту подсказку, по которой мы решаем, хорошо ли что-то. Появившееся без явного труда ощущается, ниже уровня доводов, как сделанное не по-настоящему.

Утешение, зарытое в том исследовании, в том, что кара племенная, а не нравственная. Помогало или вредило признание в ИИ, целиком зависело от того, кто судит: руководители, сами им не пользующиеся, занижали кандидатов, которые пользовались, а те, кто пользовался сам, — их вознаграждали. Это граница, а границы двигаются; чем больше народу её переходит, тем меньше в ней стыда. Но это слабое утешение, пока именно ты решаешь, признаться ли на совещании, что меткая строчка пришла от машины.

Рамка ставится рано. Целое поколение в классах научили, что тянуться к ИИ — разновидность списывания, и студенты теперь говорят о пользовании им языком самоукора — лень, нечестность — и прячут его даже там, где никакое правило не запрещает. И это второй люк для состоявшихся. Чем больше твой статус держится на том, что ты — способный, тот, к кому идут, тем сильнее инструмент, тихо делающий то, чем ты славен, читается как угроза, а не подарок. Нуждаться в нём — признание. Для известного рода эксперта фраза «машина сделала лучше» — не заметка о продуктивности, а маленькая рана. Куда проще вкладку не открывать.

Знать, о чём спрашивать

Допустим, вы прошли всё это — принесли своё назначение, перестали принимать его за Google, примирились с его ложью и с тем, как это выглядит. Остаётся ещё одно, наименее обсуждаемое и, быть может, самое глубокое: пользоваться ИИ хорошо — это навык, распределённый неравномерно и почти невидимый даже для тех, у кого он есть.

Чище всего это показывает один-единственный эксперимент, который разные люди приводят как доказательство противоположного (Dell'Acqua, Mollick и др.). Сотням консультантов дали пачку задач. На тех, что лежали в пределах модели, обладатели ИИ делали намного больше, намного быстрее и заметно качественнее — причём сильнее всех выигрывали слабейшие, инструмент подтягивал их к лучшим. Вот то самое исследование «ИИ уравнивает», которое все цитируют. Но в тот же эксперимент вложили задачу, нарочно выстроенную чуть за пределами модели, и там картинка перевернулась: пользователи ИИ приходили к верному ответу реже, чем работавшие в одиночку, — потому что машина была уверенно неправа, а они за ней шли. Впереди оказались не те, кто опирался на неё сильнее всех. А те, кто знал, где остановиться.

Разделяет эти две группы не скорость печати и не тайные формулы. А суждение об инструменте — знание, какую из твоих задач он реально потянет, и чутьё на неправильность в гладком, уверенном, ошибочном ответе. Когда исследование в Кении вручило один и тот же ИИ-помощник владельцам малого бизнеса, сильные вырвались вперёд, а слабые откатились назад, и разница была не в том, как они формулировали вопросы, а в том, какие вопросы приносили: сильные спрашивали о том, на что есть ответ, слабые просили инструмент уладить засуху (Otis и др.). На чистой, чётко очерченной задаче — напиши это, сожми то — ИИ и вправду сглаживает разрыв между сильным и слабым (Noy & Zhang). Но стоит задаче стать выбором того, о чём вообще спрашивать, и старые преимущества хлынут обратно, потому что этот выбор и есть самый редкий навык.

Это и есть тихий двигатель под всем остальным. Больше всего от ИИ получают, как правило, те, кто и без него хорошо умел сказать ровно то, что хочет, и замечать, когда ответ не тот, — то есть инструмент вернее всего вознаграждает определённый склад ума, членораздельный, скептичный, самопроверяющийся, и почти бесполезен, а то и вреден, для того, кто ещё не отличает хорошего ответа от правдоподобного. Он не всем вручает одинаковый дар. Он усиливает талант, который одни выстраивали всю жизнь, а другие нет, и делает это достаточно плавно, чтобы талант оставался невидимым. Оттого-то убеждение, что ИИ бесполезен, само себя и запечатывает: кто пользуется им меньше всех, тот и оценивает его ниже всех (PwC), принимает это за подтверждение и так и не наживает навыка, который переменил бы приговор.

Честно говоря

Мне не хочется превращать это в проповедь, потому что на руках у скептиков есть пара настоящих козырей. При всём распространении ИИ по-прежнему касается лишь тонкого ломтя реальной работы — по одной аккуратной оценке, где-то от одного до пяти процентов часов (Bick, Blandin & Deming) — а у большинства организаций, которые его «внедрили», нет и результата, о котором стоило бы говорить: настоящую пользу извлекает лишь малая доля (McKinsey). И «рваная граница» режет в обе стороны: есть целые области, где честный ответ — что инструмент сделает тебя хуже, и человек, который это чует и держится в стороне, не робок, а откалиброван. «Я попробовал, и он мне соврал» — правдивое донесение. Моё утверждение уже, чем «всем надо пользоваться им для всего», а это последнее ложно. Оно в том, что эти пять рефлексов заставляют способных людей списать всё разом ровно на тех задачах, где он и правда бы их превзошёл, — и это списывание обходится дороже, чем ощущается.

Преграда была не та

Я думаю о своей юристке и о деле, которого не было. Она не ошиблась в том, что увидела: инструмент и вправду ей соврал — тем уверенным голосом, который держит для правды. Ошиблась она лишь в размере вывода, который из этого вынесла, — что вещь, которая ошибается, есть вещь бесполезная, — и ошиблась самым понятным на свете образом, тем, к которому её подталкивает вся её выучка.

Люди, которых я знаю и которые получают от этих инструментов больше всех, не умнее её. Большинство из них не умнее среднего. Что у них есть — странное, чуть противоестественное самообладание. Они умеют взять инструмент, у которого нет назначения, пока ты его не дашь, который соврёт тебе в лицо не моргнув, который приходится перестать принимать за разум, от которого делается смутно, будто ты сжульничал, и который окупается, только если ты уже наполовину знаешь ответ, — и всё равно пользуются им, легко, для того, что он умеет, не снимая обеих рук со своего собственного суждения. Это самообладание — не ум. В паре мест ум работает прямо против него. А значит, преграда была вовсе не та, что мы полагали. Не в том, что кто-то слишком туп, чтобы понять ИИ. А в том, что сообразительность никогда и не была тем, что могло бы их спасти.