AI не думает. И ещё семь мифов, в которые верят

AI не думает. И ещё семь мифов, в которые верят

За последний год меня раз пятнадцать спрашивали про искусственный интеллект. Друзья, коллеги, родственники в семейном чате. Каждый раз приходится начинать с одного и того же. Давайте сначала разберёмся, чем эта штука НЕ является. Иначе разговор уходит в «Терминатора», в «AI заменит врачей», в «он же скоро сам себя обучит». Без расчистки вранья дальше двигаться бесполезно.

Это попытка собрать в одном месте мифы, которые я слышу регулярнее всего, и сказать про каждый честно. Без хайпа и без катастрофических предсказаний.

Миф первый. AI — это субъект, личность, сознание

Самое распространённое и самое вредное заблуждение. Когда вы спрашиваете ChatGPT или Claude и он отвечает «я думаю, что...», у вас включается интуиция: на той стороне кто-то есть. На самом деле там пусто. Под капотом сидит модель, которая для каждого слова в ответе считает вероятность: какое следующее слово статистически наиболее ожидаемо после этих? И выдаёт его. Потом следующее. И так далее.

Это не «размышление». Это очень мощный, дико масштабный автокомплит. Никакого «я», никакого внутреннего голоса, никакого сознания между запросами не существует. Когда вы закрыли вкладку, никто на той стороне не сидит и не ждёт вашего возвращения.

Миф второй. AI — это творец

«AI нарисовал картину», «AI написал стихи», «AI сочинил песню». Каждое такое сообщение немного смещает понимание того, что такое творчество. AI не создаёт. Он смешивает миллионы примеров из тренировочных данных и выдаёт статистически правдоподобный результат. Это похоже на коллаж из миллиона чужих кусочков, в котором швы очень аккуратно затёрты.

Творчество предполагает намерение. У автора есть боль, опыт, замысел, о котором он хочет сказать миру. У модели нет ни боли, ни замысла. Есть только распределение вероятностей следующего пикселя или слова. То, что результат иногда восхитителен, факт. То, что это творчество, нет.

Миф третий. Если AI говорит уверенно, значит он знает

Тон у современных моделей всегда уверенный. Они не умеют говорить «я не уверен». Точнее, умеют, но плохо и редко. Поэтому человек, не привыкший работать с моделями, считывает уверенность как компетентность. Это ловушка.

Модель может с одинаковым тоном выдать рабочий рецепт борща и абсолютно выдуманную ссылку на несуществующую научную статью. Внутренне для неё это одно и то же: подходящие слова в подходящем порядке. Термин «галлюцинация» обманчив, потому что предполагает сбой. На самом деле выдумка несуществующих фактов это не баг. Это фундаментальное свойство технологии.

Миф четвёртый. AI знает всё

AI знает столько, сколько было в тренировочных данных, и ровно так, как там было написано. Если в интернете тысячу раз повторена глупость, модель будет её повторять. Если о чём-то на момент обучения не писали, модели об этом ничего не известно. Свежие новости, узкая локальная специфика, тонкая профессиональная этика — пробелы.

Плюс модель не знает, что она знает. Она не различает, где у неё надёжный материал, а где она «заполнила пробел». Поэтому уточнение «ты уверен?» не имеет смысла: на этот вопрос она тоже сгенерирует уверенный ответ.

Миф пятый. AI учится на лету, от меня и моих сообщений

Внутри одного чата модель помнит контекст диалога, и из этого складывается ощущение обучения. Но это не обучение. Это просто буфер памяти текущей сессии. Закрыли чат, буфер очистили. На следующий день модель вас не помнит и ваших разговоров не использует.

Чтобы реально «обучить» модель, её нужно переобучить. Это месяцы работы, тысячи GPU и десятки миллионов долларов. Никакого мгновенного «AI учится у пользователей» не происходит.

Миф шестой. AI скоро заменит всех

Заменит часть. И не «профессии целиком», а конкретные задачи внутри профессий. Юрист пишет договоры быстрее с помощью AI, но не исчезает. Дизайнер делает первые наброски на порядок быстрее, но всё равно нужен дизайнер, чтобы решать, что хорошо, а что плохо. Программист пишет код быстрее, но архитектура системы по-прежнему за человеком.

Где AI пока вообще беспомощен: ответственность, физический мир, эмпатия в сложных ситуациях, любая работа, где ошибка стоит жизни или больших денег. То есть всё то, где нужно не просто сгенерировать ответ, а отвечать за результат.

Миф седьмой. AI — это ChatGPT

Очень узкий взгляд на индустрию. AI это огромное семейство технологий. Распознавание лиц на телефоне, классификация писем как спам, рекомендации в маркетплейсе, автопилот в Тесле, прогноз погоды, диагностика на МРТ. Большинство этих систем существуют двадцать-тридцать лет и работают незаметно. ChatGPT и его конкуренты это один тип AI, генеративный, и он стал популярен в 2022 году. Не «появился AI», а появился новый удобный интерфейс к одному из направлений, которое и так росло.

Миф восьмой. AI скоро станет сверхразумом и захватит мир

Сюжет популярный, технически слабо обоснованный. Никто из работающих в индустрии не знает, как из текущих LLM получится сознательный AGI. Простое масштабирование (давайте увеличим модель в десять раз) не даёт скачка к сознанию. Оно даёт улучшение качества автокомплита. Шаг от «очень хорошо угадывает следующее слово» к «имеет собственные цели и желания» концептуально не понят никем.

Это не значит, что опасностей нет. Просто реальные опасности скучнее голливудских.

Машина, которая отбирает работу или подделывает голос вашей мамы по телефону — гораздо страшнее восстания роботов. Только об этом никто не снимает блокбастеров, поэтому это и не запоминается.

Что на самом деле стоит обсуждать

Ниже — реальные риски, по поводу которых можно и нужно беспокоиться. Без сюжета «Скайнет восстал», но с приземлёнными последствиями.

• Дезинформация и дипфейки. Поддельное видео политика стоит десять долларов и пять минут. Это уже происходит, и масштаб будет расти.
• Концентрация власти. Самые мощные модели делают четыре-пять компаний в мире. Вопрос «кто будет владеть AI» политически важнее, чем все рассуждения про сознание машин.
• Автоматизация рутинной работы. Колл-центры, копирайтеры младшего звена, бытовые переводчики, простые юридические консультации — реальный риск замещения. Не через десять лет, а уже.
• Зависимость от непрозрачных систем. Когда вы спрашиваете AI и принимаете решение на основе ответа, вы доверяете чёрному ящику, который не может объяснить, почему он ответил так.
• Утечка приватных данных. Всё, что вы пишете в публичные модели, теоретически может попасть в их следующий тренинг или в утечку. Чувствительные вещи в ChatGPT — плохая идея.

Как с этим жить

Нормально. Без паники и без эйфории. Использовать как инструмент, понимать его пределы, перепроверять важное. Не ждать, что машина «поймёт». Она не поймёт. Не верить, что она «знает». Она не различает, где знает, а где догадывается. Не перекладывать ответственность с себя на алгоритм. Алгоритм не отвечает.

И главное. Не путать удивление, которое вы испытываете, когда модель что-то ловко делает, с её сознательностью. Удивление это ваше. Это работает ваш мозг, который привык, что слова в осмысленных предложениях обычно произносит мыслящий человек. На той стороне никого нет.

Если вам после прочтения стало менее страшно и менее восторженно по поводу AI одновременно, текст сработал. Спокойное понимание полезнее любых крайностей.