Всё хреново



Pdf көрінісі
бет74/124
Дата23.12.2021
өлшемі1 Mb.
#127869
1   ...   70   71   72   73   74   75   76   77   ...   124
Байланысты:
2 5465637606928682468

мы тоже алгоритмы
. Сознание само по себе – это огромная сеть
алгоритмов и деревьев принятия решений – алгоритмов, основанных на ценностях, знаниях
и надежде.
Наши алгоритмы неплохо справлялись первые несколько сотен тысяч лет. Они не подво-
дили нас в саванне, где мы охотились на бизонов, жили маленькими кочевыми племенами и
за всю жизнь знали не больше тридцати других людей.
Но в глобальной экономической сети, в окружении миллиардов людей и тысяч ядерных
боеголовок, со всеми этими утечками личных данных из Facebook и голографическими кон-
цертами Майкла Джексона наши алгоритмы стали лажать. Они сбиваются и загоняют нас в бес-
конечный цикл все усиливающихся конфликтов, которые, по природе этих алгоритмов, никак
не могут закончиться постоянным удовлетворением и вечным миром.
Это как жесткий комментарий, который порой приходится слышать: «Единственное, что
объединяет все твои поганые отношения, – это ты». Так вот, единственное, что объединяет
все самые большие проблемы в мире, – это мы. Ядерное оружие никого бы не напрягало, если
бы не было баранов, испытывающих соблазн его использовать. Биохимическое оружие, кли-
матические изменения, вымирающие виды, геноцид – список можно продолжать, и ни одной
из этих проблем не было, пока не появились мы
[301]
. Домашнее насилие, сексуальное насилие,
отмывание денег, мошенничество – все мы.
Жизнь полностью строится на алгоритмах. Пока что мы самый продвинутый и сложный
алгоритм, порожденный природой, вершина примерно миллиарда лет эволюции. И сейчас мы
находимся на грани создания алгоритмов в разы лучше, чем мы сами.
Несмотря на все наши достижения, человеческий разум все еще ужасно дефектен. Наша
способность  обрабатывать  информацию  ограничена  нашей  эмоциональной  потребностью  в
самоутверждении.  Она  загибается  петлей  внутрь  из-за  наших  искажений  восприятия.  Наш
Думающий мозг регулярно становится заложником беспрестанных желаний Чувствующего –
его запирают в багажнике Машины сознания, заткнув рот кляпом или накачав чем-нибудь до
беспамятства.
И, как мы уже увидели, наш моральный компас слишком часто сбивается с курса неис-
требимой потребностью генерировать надежду за счет конфликтов. Как говорит специалист по
психологии морали Джонатан Хайдт, «мораль сковывает и ослепляет»
[302]
. Наш Чувствующий
мозг – отжившее, устаревшее программное обеспечение. А Думающий мозг работает хоть и
качественно, но слишком медленно и неуклюже. Спросите Гарри Каспарова.
Мы вид, который ненавидит и истребляет сам себя
[303]
. Это не морализаторство, это про-
сто факт. Вот то самое внутреннее напряжение, которое мы все постоянно чувствуем, – как
раз оно нас к этому и привело. Из-за него мы тут и оказались. Это все наша гонка вооруже-
ний. И мы вот-вот передадим эстафетную палочку главным процессорам следующей эпохи –
машинам.
Когда Илона Маска спросили, что сейчас больше всего угрожает человечеству, он быстро
ответил, что существует три главные угрозы: первая – широкомасштабная ядерная война, вто-


М.  Мэнсон.  «Всё хреново»
119
рая – изменение климата… а перед тем, как назвать третью, он замолчал. Его лицо помрач-
нело. Он опустил глаза и ушел в свои мысли. Тогда интервьюер спросил: «Так а что же третье?»
Маск улыбнулся и сказал: «Надеюсь, компьютеры решат относиться к нам хорошо».
Многие опасаются, что ИИ уничтожит человечество. Некоторые подозревают, что все
может пойти по драматичному сценарию «Терминатора-2». Другие боятся, что машины убьют
нас «случайно», что ИИ, разработанный для поиска более эффективного способа производства
зубочисток, внезапно решит, что лучшее сырье для них – человеческие тела
[304]
. Билл Гейтс,
Стивен Хокинг и Илон Маск – лишь несколько примеров ведущих мыслителей и ученых, кото-
рые уже обделались от осознания того, как быстро развивается ИИ и насколько мы как вид не
готовы к последствиям его развития.
Но я считаю, что бояться этого как-то глупо. Хотя бы потому, что как можно подгото-
виться к чему-то намного более умному, чем ты сам? Это все равно что учить собаку играть в
шахматы с… тем же Каспаровым. Как бы собака ни старалась и ни готовилась, толку не будет.
И что еще важнее, понимание добра и зла у машин будет, скорее всего, превосходить
наше. Сейчас, когда я пишу эти строки, в мире бушует пять геноцидов
[305]
. 795 миллионов
людей голодает или хронически недоедает
[306]
. К тому моменту, как вы дочитаете эту главу, в
одних только США более ста человек будут избиты, изнасилованы или убиты членом своей
семьи в собственном доме
[307]
.
Несет ли ИИ потенциальную угрозу? Безусловно. Но с моральной точки зрения мы бро-
саемся камнями, сидя в доме из стекла. Что мы знаем об этике, гуманном отношении к живот-
ным,  окружающей  среде  или  друг  к  другу?  Правильно,  почти  ничего.  В  вопросах  морали
человечество только и делало, что позорилось на протяжении всей истории. Суперинтеллекту-
альные машины, вероятно, смогут осмыслить жизнь и смерть, творение и разрушение на куда
более высоком уровне, чем это когда-либо удавалось нам. И думая, что они решат ликвиди-
ровать нас только потому, что мы перестали быть эффективными или можем создавать для
них какую-то помеху, мы, как мне кажется, просто проецируем худшие аспекты 


Достарыңызбен бөлісу:
1   ...   70   71   72   73   74   75   76   77   ...   124




©engime.org 2024
әкімшілігінің қараңыз

    Басты бет