Главный вопрос не в том, появится ли сверхинтеллект, а в том, кто получит к нему доступ: будет ли он сосредоточен у немногих или станет инструментом для всех.
Я предлагаю подход, основанный на трёх принципах: личные возможности человека как источник процветания, изобретательство как цель сверхинтеллекта и баланс сил как основа безопасности.
Парадоксально, что многие создатели ИИ говорят о нём в мрачных терминах. Если считать, что он уничтожит рабочие места и человеческий смысл, непонятно, зачем стремиться к такому будущему. Идея, что ради безопасности нужно сосредоточить власть в одних руках, тоже опасна: история показывает, что абсолютная власть редко приводит к благим результатам.
Человечество уже проходило через технологические революции, и каждый раз страхи о «лишних людях» не оправдывались: доступ к благам становился шире. Мы считаем, что так будет и с ИИ. Ценности, приведшие нас сюда, свобода, поиск истины, предпринимательство и равные возможности, должны остаться основой будущего.
Прогресс чаще всего рождался там, где люди могли следовать своим идеям. Прорывы приходили не только из институтов, но и от отдельных людей: от мастерской братьев Райт, от самоучек, открывших электричество, от энтузиастов, создавших персональные компьютеры. Чем мощнее инструменты у людей, тем больше их влияние на будущее.
Главная ценность сверхинтеллекта не автоматизация, а изобретательство. Он будет помогать открывать лекарства, решать бизнес-задачи и находить новые решения. Вопросов, которые может задать человек, ограниченное число, но идей, которые может предложить ИИ, нет.
Когда интеллект станет изобилием, ключевой вопрос заключается в том, как им пользоваться. Я не считаю, что решения должен принимать один сверхинтеллект или узкая группа. Не существует единого ответа на то, что такое «лучшая жизнь», поэтому люди должны решать это сами.
Вместо централизации власти мы предлагаем персональный сверхинтеллект для каждого. Это откроет эпоху расширенных возможностей и большей свободы.
Сильные общества строятся на балансе и сдержках. Если сверхинтеллект окажется у немногих, они получат чрезмерное влияние на экономику, науку и политику, даже при благих намерениях.
Простой пример: если сверхинтеллектуальный адвокат есть только у одного человека, он получает несправедливое преимущество. Если он доступен всем, система становится справедливее. Расширение доступа уравновешивает возможности.
Нельзя создать один «идеально доброжелательный» сверхинтеллект для всех: у людей разные ценности, и универсального ответа не существует. Любая единая система неизбежно будет чьи-то интересы ставить выше других.
Риски при этом реальны и требуют внимания. В кибербезопасности, например, открытые системы часто оказываются более устойчивыми. В других областях, таких как биориски, потребуется координация государств и организаций. Это касается и экономики.
Нужно найти баланс между автоматизацией и использованием ИИ для расширения возможностей людей. Перекос в сторону автоматизации может негативно повлиять на занятость.
Но при широком доступе к сверхинтеллекту рабочих мест, вероятно, станет больше. Создавать компании будет проще, а экономика станет более предпринимательской, с ростом числа небольших команд.
Сверхинтеллект станет крупнейшим технологическим прорывом нашего времени. "Meta" стремится развивать его на основе личных возможностей, изобретательства и баланса сил. История технологий показывает движение к расширению прав и возможностей людей, и если этот путь продолжится, у нас есть основания для оптимизма в отношении будущего.
