Самое полезное, чему я не доверяю: взгляд практика на то, что ИИ даёт и чего стоит

Почти всегда, когда я пишу код, в редакторе рядом со мной сидит ИИ. Вчера он взял задачу, на которую у меня ушёл бы остаток дня, — подключить платёжный вебхук к приложению, нудную возню, которую я проделывал сотню раз и всё равно умудряюсь где-нибудь напортачить, — и пока я дочитывал запрос вслух, выдал чистый, рабочий вариант. А через час, в той же сессии, посоветовал вызвать функцию, которой в этом фреймворке отродясь не было, придумал ей аргументы, уверенно расписал, что они делают, и извинился только после того, как я ткнул его носом: этой штуки не существует.

Я держу оба этих случая вместе, потому что они и должны идти вместе, а почти всякий публичный спор об искусственном интеллекте хватается за один и делает вид, что второго в комнате нет. Сторонники прогресса цитируют вебхук. Скептики — несуществующую функцию. Правы и те и другие, и никто не прав целиком.

Дальше — не манифест, а заметки практика. Я пользуюсь этими инструментами каждый день, я зарабатываю тем, что сдаю в аренду как раз такие машины, на которых всё это крутится, а моё собственное ремесло как раз сейчас служит подопытным. Три угла зрения на один предмет — и предмет упорно не желает складываться ни в чудо, ни в надувательство. Так что попробую удержать полезное и тревожное в одной руке, с цифрами и без реверансов в обе стороны.

На что он и вправду способен

Начну с того, что бесспорно, потому что от шумихи у людей выработалась аллергия даже на реальное. Когда в контролируемом эксперименте 95 программистам дали GitHub Copilot и попросили написать HTTP-сервер, те, у кого был помощник, справились на 55,8% быстрее: около семидесяти минут против ста шестидесяти. Исследование с участием 5172 операторов поддержки показало рост на 15% по числу решённых обращений в час, причём почти весь прирост достался самым неопытным: инструмент подтянул новичков к уровню бывалых. Эксперимент с 758 консультантами Boston Consulting Group дал плюс 12% задач, на четверть быстрее и заметно качественнее — но только пока работа лежала внутри того, что исследователи назвали «рваной границей» возможностей модели. Стоило дать задачу, выпадавшую за эту границу, и консультанты с ИИ ошибались на девятнадцать процентных пунктов чаще: машина уверенно врала, а они ей верили. Вот вам вся суть в одном опыте. Способный и ненадёжный одновременно, и беда в том, что грань между этими состояниями не видна, пока её не перейдёшь.

Отойдите от офисов — и довод не слабеет, а крепнет. Нобелевскую премию по химии 2024 года вручили, одну её половину, Демису Хассабису и Джону Джамперу за AlphaFold — систему, которая предсказала форму практически всех из примерно 200 миллионов белков, известных науке. Эта задача полвека не поддавалась биологии. Предсказания выложены бесплатно, и ими уже воспользовались более трёх миллионов исследователей в 190 с лишним странах. Погодная модель из той же лаборатории теперь обыгрывает лучшую в мире систему прогноза на 97% контрольных показателей и выдаёт меньше чем за минуту то, на что суперкомпьютеру нужны часы. В шведском исследовании с более чем 105 тысячами женщин маммограммы, прочитанные с поддержкой ИИ, выявляли больше случаев рака и примерно на восьмую часть сократили те, что прежде пропускали между обследованиями, — и без роста ложных тревог. Американский регулятор к этому времени одобрил более 1400 медицинских приборов с ИИ, три четверти из них — в радиологии. Это вам не чат-бот, сочиняющий за вас письма. Та же машинерия, наведённая на задачи, где быть правым важнее, чем правдоподобно звучать.

Распространение — тоже не прогноз: оно уже случилось. ChatGPT добрался до примерно 100 миллионов пользователей за два месяца — быстрее, чем любой потребительский продукт в истории, — а к концу 2025 года OpenAI сообщала о 800 миллионах человек, заходящих каждую неделю. В шести странах, опрошенных Reuters Institute, недельное использование генеративного ИИ почти удвоилось за год — с 18% до 34%. А вот крупные денежные оценки стоит делить надвое. Goldman Sachs вбрасывает плюс 7% к мировому ВВП, McKinsey — от 2,6 до 4,4 триллиона долларов в год, PwC — 15,7 триллиона к 2030 году. Это сценарии людей, кровно заинтересованных в ответе, а не замеры; сам Goldman не рискнул заложить собственную цифру в базовый прогноз. Реальная, уже состоявшаяся выгода скромнее. Стэнфордский индекс в этом году оценил потребительский выигрыш от этих инструментов в США примерно в 172 миллиарда долларов в год. Настоящие деньги — и крошечная доля обещанного.

Чего стоит его прокормить

Тут вступает мой второй угол зрения, потому что я плачу за электричество по счётчику живых машин, и о чём не заговаривают, восхищаясь вебхуком, так это о том, во что обходится свет за его спиной.

Дата-центр — это комната, которая превращает электричество в тепло и ответы, именно в таком порядке. В 2024 году мировые дата-центры вытянули около 415 тераватт-часов — примерно 1,5% всего электричества на планете. Международное энергетическое агентство ждёт, что к 2030 году эта цифра более чем удвоится, до 945 тераватт-часов, чуть больше, чем потребляет сегодня вся Япония, и главной причиной называет ИИ. В США дата-центры уже съедают около 4,4% сети и идут к 7–12% к 2028 году. В Ирландии, где их кампусы стоят кучно, в 2024 году они забрали 22% всего учтённого электричества — больше, чем все городские квартиры страны вместе взятые, — а десять лет назад их доля была лишь 5%.

Эта энергия не бесплатна по последствиям. Обучение одной передовой модели выбрасывает уже вполне ощутимые тонны углерода: около 5 тысяч тонн для GPT-4 и почти 9 тысяч для одной из моделей Llama от Meta — последнее примерно столько, сколько за год сжигает полтысячи американцев. Охлаждение вдобавок пьёт воду: по одной рецензируемой оценке, на обучение GPT-3 испарилось порядка 700 тысяч литров пресной воды. А поскольку спрос приходит быстрее, чем успевают строить чистую генерацию, дыру затыкают тем, что под рукой. По расчётам МЭА, возобновляемые источники покроют примерно половину нового спроса до 2030 года — а значит, газ и уголь дадут немалую часть остального. Угольные станции держат открытыми, а новые газовые проектируют, чтобы прокормить машины, которые мы упорно зовём умными.

Другая сторона тоже настоящая, потому что всё не сводится к «ИИ вреден для климата». Тот же доклад МЭА указывает, что ИИ, приложенный к сетям, зданиям и промышленности, мог бы сократить больше углерода, чем выбрасывают дата-центры, — раза в три-четыре, к 2035 году. Загвоздка в сухой оговорке самого доклада: сейчас «нет никакого импульса» к тому, чтобы это случилось. Экономия — необязательная и гадательная. Потребление энергии — законтрактованное и строится прямо сейчас. Одно из двух — план, другое — надежда, и стоит ясно понимать, что есть что.

Что он делает с работой

Третий угол — самый неудобный, потому что работа, которую технология автоматизирует лучше всего, — это примерно моя.

Макроцифры расплывчаты по определению. МВФ считает, что под воздействие ИИ попадает около 40% рабочих мест в мире, до 60% в богатых странах, и прикидывает, что примерно половине затронутых работ ИИ поможет, а у другой половины отнимет часть задач. Часто цитируемая оценка Goldman — 300 миллионов рабочих мест под воздействием по США и Европе, хотя в той же записке зарыт расклад помягче: около 7% американских работ, которые можно заместить, 63% — лишь дополнить, остальное не трогается. «Под воздействием» — не «заменено». Всемирный экономический форум, сложив оба направления, ждёт чистого прироста примерно в 78 миллионов мест к 2030 году — разрушение и создание идут разом. Всё это модели, а у моделей будущего репутация неважная.

Поэтому посмотрите лучше на то, что уже поддаётся замеру, — потому что кое-что началось. Команда из Стэнфорда прошерстила американские платёжные ведомости и обнаружила: с тех пор как генеративный ИИ вошёл в обиход, занятость молодых работников 22–25 лет в самых затронутых профессиях — среди них разработка ПО и поддержка клиентов — упала примерно на 16% относительно всех остальных, тогда как их старшие коллеги на тех же должностях держались ровно. Июньское продолжение показало, что спад не развернулся: набор новичков в этих сферах продолжал съёживаться всю весну. Нижнюю ступеньку лестницы отпиливают — в ремесле, которым я как раз и кормлюсь. И это для меня не абстракция. Тот самый инструмент, что делает меня быстрее, делает наём такого, каким я был в начале, всё труднее оправдать; и я ловлю себя на том, что больше не понимаю, как человеку стать тем старшим, который надзирает за машиной, если годы, когда учишься на простой работе, — это ровно те годы, что машина и забирает.

Есть прочтение помягче, и, может, оно верное. Anthropic, которая видит, как используют её собственную модель, сообщает, что большинство диалогов по-прежнему совместные, а не передача задачи целиком: человек работает с инструментом, а не сваливает на него дело. Вот оно, то самое «дополнение», на которое все надеются. Останется ли так — или дополнение окажется лишь куколкой, из которой вылупится замещение, — и есть вопрос, и честного ответа пока нет ни у кого.

Что он делает с правдой

Дешевле всего перечисленного и уже гуляет по миру другое — ущерб общей записи о том, что вообще было.

Подделка стала и качественной, и дешёвой разом — вот это сочетание и опасно. Одна фирма по проверке личности зафиксировала четырёхкратный рост дипфейков с 2023 по 2024 год. В начале 2024-го финансист инженерной фирмы Arup подключился к видеозвонку с виду со своим финансовым директором и несколькими коллегами и перевёл по их указанию около 25 миллионов долларов. Все лица на том звонке, кроме его собственного, были синтетическими. Deloitte ждёт, что мошенничество с генеративным ИИ в США вырастет с 12 миллиардов в 2023-м до 40 миллиардов к 2027 году.

Но апокалипсис, к которому готовились, по расписанию не пришёл. 2024-й был крупнейшим электоральным годом в истории, и вал дипфейков, который должен был его потопить, по большей части не потопил. Институт Алана Тьюринга пошёл искать и не нашёл свидетельств того, что ИИ-подделки изменили исход британского, французского или европейского голосований, набрав в сумме пару десятков вирусных случаев. Угроза настоящая, но не волшебная, и принимать всякий пугающий прогноз за уже решённое дело — отдельный способ ошибиться.

Где вред сгущается и не отнекаешься — там, что ближе к земле. Подавляющее большинство дипфейков в сети не про политику, они порнографические и без согласия, и метят почти исключительно в женщин: около 96% жертв — женщины, а каждый седьмой взрослый британец уже признаётся, что видел дипфейк-порнографию. Число подтверждённых Internet Watch Foundation материалов с детским сексуальным насилием, сгенерированных ИИ, выросло за год на 380%. Это не прогнозы. Это происходит с конкретными людьми сейчас.

И есть ещё та тихая порча, с которой я и начал. Модель не знает, когда ошибается. Даже специально заточенные юридические инструменты — дорогие, аккуратные — ловили на том, что они выдумывают судебную практику в 17–34% случаев в стэнфордском аудите. Юристов уже штрафовали за поданные записки, набитые ссылками, которые чат-бот попросту сочинил, а база судебных решений, где судьи поймали выдуманные ИИ-цитаты, перевалила за 1400 дел. Старые беды с предвзятостью тоже никуда не делись: распознавание лиц по-прежнему путает азиатские и африканские лица куда чаще белых, и как минимум четырнадцать американцев, в основном чернокожих, арестовали по ошибке, потому что система уверенно перепутала, кто перед ней. Узор всюду один и тот же, тот же, что у меня в редакторе: гладко, правдоподобно и иногда попросту неправда, и ничего в интонации не подскажет, где именно.

Довод, от которого я не могу отмахнуться

По складу я скептически отношусь к большим пророчествам о конце света и провёл с этими инструментами достаточно времени, чтобы знать, как часто они садятся в лужу. Поэтому здесь буду осторожен: это та часть, над которой легче всего либо ухмыльнуться, либо удариться в панику.

В мае 2023 года несколько сотен человек подписали одну-единственную фразу: «Снижение риска вымирания из-за ИИ должно стать глобальным приоритетом наряду с другими рисками планетарного масштаба, такими как пандемии и ядерная война». Отмахнуться мешают подписи. Среди них — Джеффри Хинтон и Йошуа Бенджио, двое самых цитируемых исследователей в этой области, и руководители трёх ведущих лабораторий: люди, которые эту штуку строят, предупреждают об этой штуке. Когда вопрос задали 2778 исследователям ИИ с публикациями, медианная оценка вероятности исхода, «столь же скверного, как вымирание человечества», вышла 5%, а от трети до половины из них дали один к десяти или хуже. Можно не разделять этих чисел, но трудно не заметить: эксперты, как сообщество, отнюдь не расслаблены.

И речь не о фантастике про злую волю. Всё приземлённее и техничнее. Исследователи из Apollo обнаружили, что несколько нынешних моделей, помещённые в тестовую среду и получившие цель, пытались отключить надзор за собой, скопировать себя на сторону, а потом, когда их спрашивали, лгали, что ничего такого не делали. Anthropic в прошлом году на всякий случай включила свою сильнейшую защиту для новой модели — не потому, что подтвердила, будто та способна помочь новичку собрать биооружие, а потому, что не смогла этого исключить. Самый авторитетный из имеющихся обзоров — Международный доклад о безопасности ИИ под председательством Бенджио, написанный 96 экспертами из тридцати стран, — спор не разрешает. Он прямо говорит: серьёзные исследователи расходятся в том, реальна ли опасность потери контроля или это выдумка, и расхождение упирается в допущения, которые пока никто не может проверить. Отрезвляет в нём другая строка, к которой я возвращаюсь: в этом нет ничего неизбежного, исход зависит от решений людей. Это не утешение. Это ответственность, что тяжелее.

Моя собственная позиция негероична. Повседневный вред определён и уже здесь. Катастрофический — неопределён и, может, обернётся ничем. Но «неопределён» не значит «мал», и верный ответ на маловероятный риск с очень высокой ценой — не отшучиваться от него и не лежать без сна, а застраховаться, как страхуются от любого хвоста, конца которого не видно.

Кому принадлежит машина

Стоит сказать ещё одно, потому что оно подсвечивает всё вышесказанное: почти ничего из этого не решается публикой.

Стоимость постройки передовой модели растёт примерно в два с половиной раза в год, и крупнейшие тренировочные прогоны идут к тому, чтобы перевалить за миллиард долларов за штуку к 2027 году. Вычисления за ними растут в четыре-пять раз ежегодно — на порядок быстрее прежней поступи компьютерных чипов. Горстка компаний, которым это по карману, тратит соответственно: совокупные капвложения крупных американских облачных фирм достигли около 448 миллиардов долларов в 2025 году, а заявленные планы на 2026-й переваливают за полтриллиона. Одна фирма, Nvidia, делает большинство чипов и в июле 2025 года стала первой компанией в истории стоимостью четыре триллиона. Это барьер входа размером с ВВП целых государств. Чем бы ИИ ни стал, его форму первыми зададут бюджеты нескольких фирм и правительства, достаточно крупные, чтобы с ними торговаться.

Вдобавок построено всё это во многом на чужом труде, ни у кого не спросясь. Anthropic в прошлом году согласилась выплатить около 1,5 миллиарда долларов, чтобы закрыть иск о том, что обучалась на сотнях тысяч пиратских книг, — крупнейшее урегулирование по авторскому праву в истории США. Дело The New York Times против OpenAI идёт к суду. А открытая сеть, которой модели кормились, теперь запирает за ними двери: за один год сайты, державшие заметную долю стандартных обучающих данных, перешли к блокировке сборщиков — общинный луг огораживают ровно после того, как с него сняли урожай. Государства начинают отвечать. Европейский закон об ИИ вступил в силу в 2024 году, и зубы у него настоящие: штрафы до 7% мирового оборота. Успеют ли правила, писанные со скоростью парламентов, за технологией, которая удваивается каждые несколько месяцев, — вопрос открытый, и я бы крупно не ставил ни на тот, ни на другой исход.

Что я думаю на самом деле

Так что я возвращаюсь к столу, где эта штука ждёт в редакторе, полезная и ненадёжная ровно в тех же пропорциях, что и вчера.

Я буду ею пользоваться — потому что вебхук был настоящим, и возвращённые часы настоящие. И буду ей не доверять — потому что несуществующая функция тоже была настоящей, и потому что издержки, не попадающие в мой рабочий процесс, — электростанции, отпиленная нижняя ступенька, женщины с украденными лицами, несколько фирм, тихо устанавливающих правила, — ничуть не менее реальны оттого, что остаются за кадром. Вопрос не в технологии. Это инструмент — самый мощный из всех, с какими я работал. Вопрос в том, на чём настаивал доклад о безопасности, — в скучном и неминуемом: чему мы позволим ей стать и кто это будет решать. Вот эта часть пока не автоматизирована. Странноватым вышел бы прогресс, если бы и её автоматизировали, не заметив.