«Крестный отец ИИ» предупреждает: человечество не готово к эпохе сверхразума

Лауреат премии Тьюринга Джеффри Хинтон, один из создателей технологии глубокого обучения, выступил с серией тревожных прогнозов. По его мнению, стремительное развитие искусственного интеллекта уже в ближайшие десятилетия грозит человечеству экономическими потрясениями, войнами с применением автономного оружия и экзистленциальными рисками. Существующие социальные институты, по словам ученого, не справятся с этими вызовами без радикальных реформ.

Тревога.

Джеффри Хинтон, которого в научном сообществе называют «крестным отцом искусственного интеллекта», после ухода из Google в 2023 году стал одним из самых заметных критиков неконтролируемого развития ИИ. В ходе публичной дискуссии с американским сенатором Берни Сандерсом ученый заявил, что темпы прогресса в этой области значительно превысили самые смелые прогнозы, и у общества не осталось времени на медленную бюрократическую адаптацию.

«Нам никогда не приходилось иметь дело с чем-то более разумным, чем мы сами», — отметил Хинтон, оценив вероятность того, что ИИ может привести к вымиранию значительной части человечества к 2055-2060 годам, в 10-20%.

Две стороны прогресса: экономический кризис и угроза безработицы.

Одним из самых очевидных последствий внедрения ИИ Хинтон считает глубочайшую перестройку рынка труда. Повсеместная автоматизация неизбежно повысит производительность, но плоды этого прогресса будут распределены неравномерно.

«Выгоду от этого получат преимущественно владельцы корпораций, а наемные работники столкнутся с массовыми сокращениями», — убежден ученый.

Он предрекает, что рынок не сможет самостоятельно сбалансировать ситуацию, что вынудит правительства пойти на радикальные меры, такие как введение безусловного базового дохода, чтобы предотвратить резкий рост социального неравенства и экономический коллапс.

Автономное оружие: угроза, которую невозможно контролировать.

Особую тревогу у Хинтона вызывает военное применение ИИ. По его словам, регулировать боевые нейронные сети и автономное оружие значительно сложнее, чем ядерное оружие.

«Если для создания атомной бомбы нужны огромные промышленные мощности и редкие изотопы, то автономные боевые системы управляются программным кодом. Его можно мгновенно скопировать, украсть или перенести на обычной флешке, что делает практически невозможным любой эффективный контроль над нераспространением», — пояснил эксперт.

Это создает беспрецедентные риски для глобальной безопасности, потенциально приводя к конфликтам с массовым применением «умного» оружия.

Экзистенциальный риск: когда ИИ станет умнее нас.

Главная опасность, по мнению Хинтона, лежит в области экзистенциальных рисков. Ученый опасается, что в момент, когда ИИ превзойдет человека по уровню интеллекта, человечество может окончательно утратить над ним контроль.

«ИИ сможет манипулировать людьми, чтобы достигать собственных целей, которые могут не совпадать с человеческими интересами и ценностями», — предупредил он.

Проблема усугубляется тем, что мир вступает в эту эпоху без четкого плана или надежных механизмов защиты. Мировые исследовательские центры, такие как DeepMind и OpenAI, осознают эту угрозу и работают над решением «проблемы согласования» — задачи по обеспечению соответствия целей ИИ человеческим ценностям.

В поисках решения: управление через заботу.

Вместо попыток доминировать над сверхразумным ИИ Хинтон предлагает радикально иной подход. Ученый проводит аналогию с отношениями матери и ребенка.

«Мать управляется ребенком», — отмечает он, считая этот единственный известный случай, когда более разумное существо подчиняется менее разумному, единственной рабочей моделью.

Цель — создать такой ИИ, который будет искренне заботиться о людях, видя в этом свою главную задачу.

Неизбежное будущее.

Прогнозы Хинтона — не апокалипсис, а призыв к действию. Он рисует картину неизбежной трансформации, которая уже началась с автоматизации профессий и появления в 2024 году первых «агентских ИИ», способных автономно выполнять задачи. Следующим рубежом станет создание универсального искусственного интеллекта (AGI), который, по прогнозам аналитиков Gartner, может проявиться уже к 2035 году.

Остается открытым главный вопрос: успеют ли политики, бизнес и общество выработать новые правила игры, чтобы встретить эту новую эру не как кризис, а как возможность для перехода на следующую ступень развития. Пока же, по словам «крестного отца ИИ», мы движемся в будущее с завязанными глазами.