Пришло время готовиться к машиноцену

Интеллект человеческого уровня у биологического оборудования есть — вы используете его сейчас. Наука и технологии, похоже, сближаются с нескольких направлений, чтобы повторить интеллект или создать нечто подобное в небиологических системах. Сложно сказать, когда это случится, но большинство специалистов в области искусственного интеллекта считают, что не в этом столетии.


Освободившись от биологических ограничений, например от необходимости проходить через человеческие родовые пути (и энергопотребления в 20 Вт), небиологические машины могут стать гораздо умнее нас. Что это будет означать для нас? Ведущий исследователь ИИ Стюарт Расселл полагает, что, к лучшему или к худшему, это будет «величайшее событие в истории человечества». В действительности, наш выбор в этом столетии может иметь далеко идущие последствия не только для нашей планеты — для всей галактики. Будущее интеллекта в космосе зависит от того, что мы делаем сейчас на Земле.

Стоит ли нам беспокоиться? Люди размышляли о возможностях машинного интеллекта много лет — чего мы можем не знать?

За последние несколько десятилетий произошло два серьезных прорыва. Во-первых, мы наблюдали много реального прогресса — теоретического, практического и технологического — в понимании механизмов интеллекта, как биологического, так и небиологического. Во-вторых, ИИ достиг точки, где он чрезвычайно полезен в решении многих задач. Так что он имеет огромное коммерческое значение и привлекает серьезные инвестиции. Это процесс продолжается и даже ускоряется.

Так или иначе, нам придется делить планету с небиологическим интеллектом во многих проявлениях. И чем бы он ни был, людям придется вместе встречать такое будущее. Очевидно, мы заинтересованы в этом. И мы также хотим, чтобы он оставался под контролем.

Осознание этих вопросов, их веса, растет. Тысячи исследователей ИИ и другие подписали открытое письмо с призывом гарантировать, чтобы исследования в области ИИ оставались безопасными и полезными. Совсем недавно образовалось также новое партнерство по ИИ, в числе членов которого оказались Google, Amazon, Facebook, IBM и Microsoft.

На данный момент особое внимание уделяется безопасности, относительно краткосрочной выгоде и воздействию ИИ (на рабочем места, например). Но этим круг вопросов к рассмотрению не ограничивается. Яан Таллинн, один из главных инженеров Skype, приводит такой пример. Представьте, что мы выводим человечество в космос на флоте больших кораблей. Нам нужно убедиться, что эти корабли безопасны и управляемы и что каждый на борту будет накормлен и найдет себе место для ночлега. Это будет очень важно, но этим все не ограничится. Нам также нужно понимать, куда этот флот летит и что нам нужно сделать, чтобы добраться до пункта назначения наилучшим образом. Ведь в космосе могут быть райские угодья, а могут быть холодные, темные просторы. Нужно понимать, куда мы движемся.

Говоря о долгосрочном влиянии ИИ, есть повод для оптимизма. Он мог бы помочь нам решить многие практические проблемы, перед которыми бессильны наши лучшие умы. Но когда дело доходит до полной карты возможных исходов, выбора между лучшим и худшим и как нам избежать возможных негативных последствий, здесь мы оказываемся совершенными невеждами. Мы чувствуем, что некоторых острых углов нужно избегать, но общая карта остается неизведанной землей. Те, кто предлагает просто сидеть и ждать, глубоко заблуждаются.


Одним из первых предвестников, кто заговорил об этом, был Алан Тьюринг. «Кажется возможным, что как только метод машинного мышления начнет работать, очень скоро он превзойдет наши скромные силы», писал он в заключении к лекции в 1951 году. «Мы видим перед собой не так далеко, но можем четко разглядеть множество вещей, которые необходимо закончить».

Если мы сможем создать машины, которые смогут мыслить, убедиться, что они безопасны и полезны, это будет величайшим интеллектуальным и практическим подвигом столетия. И нам придется столкнуться с ним всем вместе — этот вопрос слишком важен и огромен, чтобы рассматриваться отдельным институтом, корпорацией или нацией. Наши внуки или правнуки, скорее всего, будут жить уже не в антропоцене, а в машиноцене, в эпоху машин. Нам нужно как можно лучше осуществить этот переход, ради грядущего и всех грядущих поколений.