Я боюсь засухи больше, чем AGI. И вот почему

Я боюсь засухи больше, чем AGI. И вот почему

В моей ленте за последний год было примерно две тысячи постов про опасность искусственного интеллекта. И тридцать про то, что 2024 год оказался самым жарким за всю историю инструментальных наблюдений. Соотношение шестьдесят к одному. При этом из двух явлений только одно уже происходит и измеряется приборами. Догадайтесь какое.

Что уже происходит, а что пока теория

AGI, или «общий» искусственный интеллект, способный делать всё то же, что человек, и лучше, это пока теоретическая возможность. Никто из работающих в индустрии не знает, как из текущих языковых моделей получится сознательный AGI и получится ли вообще. Оценки сроков расходятся на сто лет: от Сэма Альтмана с его «к 2030 году» до Янна ЛеКуна с «никогда». То есть мы спорим о вероятности события с неопределённым временем и неизвестным механизмом.

Засуха не теория. По данным NASA и Copernicus, 2024 год стал первым годом, когда среднегодовая температура планеты превысила доиндустриальный уровень на 1,5°C. Парижское соглашение ставило это как «опасный порог», который нельзя переходить. Мы перешли. В 2022 году Рейн пересох настолько, что под Кёльном остановилось грузовое судоходство. Лето того же года: По в Италии превратилась в полупустую канаву, фермеры в долине лишились трети урожая. Калифорния горит каждый август. Юг Африки находится в третьем подряд году засухи.

Это не «грядёт». Это идёт сейчас, прямо сейчас, на конкретных территориях, с конкретными людьми, которые там жили и которых там больше нет.

AGI это миф. Засуха нет

Когда я слышу очередное «AGI скоро всё изменит», у меня вопрос: на чём основан этот прогноз. Обычно ответ: «масштабирование моделей продолжает давать улучшения». Окей. Это аргумент. Не доказательство. Никакой теоретической связки между «модель GPT-7 будет в десять раз больше, чем GPT-4» и «модель GPT-7 будет иметь сознание» не существует. Это вера, а не наука.

А вот связка «средняя температура планеты повышается на X градусов» и «частота экстремальных засух растёт на Y процентов» уже не вера. Это статистическое наблюдение по тысячам метеостанций, спутниковым данным и образцам льда. Когда уровень CO₂ в атмосфере 425 ppm, что выше всего, что было за последние два миллиона лет, это просто факт. Никаких философских споров не нужно.

Почему мы боимся не того

Голливуд и эффект дисконтирования. Голливуд научил нас, что опасное обязательно выглядит как робот с красными глазами или ядерный гриб. Сухое русло реки выглядит как фотография из учебника географии. Не страшно. Не запоминается. Не идёт в ленту.

Эффект дисконтирования это психологический феномен, при котором мозг переоценивает яркие будущие угрозы и недооценивает скучные текущие. Терминатор пришёл в кино один раз и остался в голове на сорок лет. Дельта температуры на 0,3 градуса в год это не сюжет, это excel-табличка. Хотя именно она убивает урожай в Сахеле и заставляет миллионы людей сниматься с мест.

К этому добавляется простая социальная динамика. Про AGI можно тревожиться элегантно, в твиттере, не меняя ничего в своей жизни. Про засуху тревожиться без действий это какое-то лицемерие. Действовать значит меньше летать, есть меньше говядины, платить больше за электричество, выбирать неудобных политиков. Сложно. AGI проще: «давайте подпишем петицию о паузе разработок».

Что говорят цифры

Несколько чисел, которые стоит держать в голове:

• +1,55°C — превышение доиндустриального уровня в 2024 году. Цель Парижского соглашения была 1,5° к 2100 году. Мы достигли её на 75 лет раньше.
• 280 миллиардов тонн — столько льда в год теряет Антарктида начиная с 2010-х. Уровень океана растёт примерно на 4,5 мм в год и ускоряется.
• 2,5 миллиарда человек живут в регионах, где засуха или дефицит воды уже стали хроническими (данные ООН за 2024 год).
• 200 миллионов — нижняя оценка числа климатических беженцев к 2050 году. Верхняя оценка миллиард. Разброс зависит от того, что сделаем за десять лет.
• 0,001% — оценка вероятности экзистенциального риска от AGI в течение ближайших ста лет по медианной экспертной оценке (Future of Humanity Institute, 2022).

Если сравнивать оба сценария по математическому ожиданию ущерба, климат побеждает с разгромным счётом. Не потому что AGI безопасен. Потому что климат это не вероятность, это уже реальность.

Мы единственный вид, который точно знает, что собственными руками меняет климат планеты в опасную сторону, и при этом продолжает спорить, насколько серьёзно к этому относиться. Это не цитата Греты Тунберг, хотя могла бы быть. Это просто констатация в одном предложении.

Что реально делать

В порядке снижения героичности и роста реальной пользы.

Не топить ленту страхом про AGI. Это бесплатно, и это уже что-то. Каждый репост заголовка «Альтман предупредил» это минус одно внимание на то, что в Сицилии в этом году собрали половину обычного урожая олив.

Поддерживать политиков и партии, которые относятся к климату как к приоритету. Это работает. Долго, тошно, но работает. В Европе климатическая повестка двинула реальный энергопереход: за десять лет доля возобновляемых в энергобалансе Германии выросла с 25% до 60%.

Перестроить личный быт там, где это не разрушает жизнь. Меньше мяса (особенно говядины: производство одного килограмма даёт около 27 кг CO₂-эквивалента против 0,9 кг для овощей). Меньше дальних перелётов. Меньше шкафа из новой одежды каждый сезон. Это не спасёт планету, но снижает личное гудение совести и переводит спрос.

Не путать угрозу и киноугрозу

Сценарий, в котором сверхинтеллектуальный AI решает уничтожить человечество, требует появления сверхинтеллектуального AI, которого пока нет и неизвестно, будет ли. Сценарий, в котором среднегодовые температуры в Дели делают город непригодным для жизни летом, не требует ничего, кроме продолжения текущих тенденций ещё лет двадцать. Один сюжет требует чуда, другой инерции.

Я не против разговора про риски AGI. Они тоже важны. Я против того, что этот разговор занял всё доступное внимание в эпоху, когда экологические триггеры уже сработали и стрелка пошла. Через пятьдесят лет наши дети будут читать, как мы целое десятилетие переживали из-за робота с экзистенциальными целями, пока в это самое время выгорал Амазонский лес и пересыхал Рейн. И, наверное, будут спрашивать, что, ребята, у вас вообще была за повестка дня.

На этот вопрос мне отвечать нечего. Поэтому пишу этот текст, пока ещё есть электричество, кондиционер за окном работает, а во дворе снег. В будущем, очень близком, какая-то часть этого списка может стать недоступной. И именно она, а не AGI, останется в учебниках истории как причина, по которой мы потеряли время.