«Вы можете улыбаться и хлопать в ладоши, но уже завтра окажетесь в ГУЛ

Израильский писатель-футуролог Юваль Ной Харари, чьи книги распроданы по всему миру тиражом свыше 30 млн экземпляров, выступил с апокалиптическими прогнозами на главном форуме деловой элиты

Израильский историк и философ Юваль Ной Харари в последние годы превратился в одного из самых влиятельных мыслителей мира. Его нон-фикшен-бестселлеры Sapiens. Краткая история человечества и Homo Deus. Краткая история будущего распроданы совокупным тиражом свыше 30 млн экземпляров, к его прогнозам прислушиваются ведущие визионеры Кремниевой долины, и даже разные редакции переводов его книг провоцируют глобальные общественно-политические скандалы. Неудивительно, что 43-летний футуролог стал одним из главных спикеров Международного экономического форума в Давосе в 2020 году. Несколько дней назад мы рассказывали об основных тезисах из дискуссии Харари с основателем Huawei Жэнем Чжэнфеем, а сегодня представляем краткий пересказ его мини-лекции на сессии, посвященной рискам и угрозам XXI века. Подробнее со многими из этих идей можно познакомиться в последней на данный момент книге израильтянина — 21 урок для XXI века .

  • Подрывные технологии могут разрушить самую суть нашего общества множеством способов — от создания класса бесполезных людей из-за широкого внедрения искусственного интеллекта до неконтролируемой экспансии колониализма данных и цифровых диктатур.
  • Автоматизация рабочих процессов уничтожит миллионы и миллионы рабочих мест. Неясно, насколько быстро люди научатся осваивать новые профессии. Да, технологии создадут достаточное количество альтернативных рабочих мест, но сможет ли, к примеру, 50-летний водитель грузовика, которого только что заменили беспилотной технологией, заново обрести себя в профессии разработчика программного обеспечения или учителя йоги? А ведь людям, вероятно, придется не единожды проходить такое вынужденное переобучение — революционный переход на алгоритмы искусственного интеллекта не произойдет в один момент, нас ждет каскад больших и очень больших перемен.
  • В прошлом люди много и активно боролись против эксплуатации в разных ее формах. Но XXI век делает более актуальной другую борьбу — против собственной бесполезности . Стать бесполезным сегодня гораздо опаснее, чем эксплуатируемым . Из тех, кто не сможет победить в этой борьбе, сложится целый новый класс. Это будут бесполезные с точки зрения экономической и политической систем люди. И пропасть между ними и могущественной элитой будет только расти.
  • Эта социальная дифференциация захватит не только классы, но и целые страны. В XIX веке мы уже наблюдали, как пионеры индустриальной революции Британия и Япония первыми внедрили новые технологии и тут же принялись захватывать мир и эксплуатировать другие народы. Если мы не усвоим эти уроки, история повторится и в XXI веке искусственный интеллект (ИИ) позволит передовым государствам — прежде всего Китаю и США — совершить скачок в развитии, грозящий всем остальным банкротством или превращением в цифровые колонии. Эффект от внедрения ИИ должен быть равномерно распределен по планете.

Власти смогут хакнуть людей : глава Huawei и автор Sapiens поспорили об опасности искусственного интеллекта

  • Просто представьте себе, что случится с развивающимися экономиками, если текстиль или автомобили станет выгоднее производить в Калифорнии, а не, к примеру, в Мексике? А что будет с элитами ваших стран, если в Сан-Франциско или Пекине будут храниться все данные об истории их болезней и другая чувствительная персональная информация? Когда у вас достаточно данных, не нужно посылать никуда солдат — отстающие страны и без того вынужденно станут вашими сателлитами.
  • Еще один риск неравномерного освоения технологий — появление цифровых диктатур, способных постоянно следить за всеми своими гражданами. Этот риск можно уместить в самое, вероятно, важное уравнение XXI века: B*C*D=AHH, где B — биологические знания, C — компьютерные вычисления, D — данные, а AHH — умение хакнуть каждого отдельного человека. Если у вас есть все аргументы для этой формулы, вы взломаете мое тело, мой мозг, мое сознание и поймете меня лучше, чем я сам.
  • Система, основанная на формуле, сможет предсказывать чувства и решения человека, манипулировать ими и в конечном итоге решать за него. В прошлом о такой системе мечтали многие тираны, но ни у кого из них не было достаточно представлений о биологической природе человека, развитых технологий и массива данных, доступных сегодня. Мы больше не какие-то там загадочные души, мы животные, которых можно взломать.
  • Да, вся эта информация может использоваться и во благо, например для создания эффективной системы здравоохранения. Но представьте себе попадание наших аргументов в руки условного нового Сталина — тогда всем нам грозит диктатура, невиданная доселе. А ведь претенденты на роль этого нового Сталина уже есть — давайте подумаем, какой будет та же Северная Корея через двадцать лет? На граждан там смогут надевать биометрические браслеты, замеряющие все данные, и когда человек будет слушать по радио речь верховного лидера, большой брат будет знать, что он думает о правителе на самом деле. Вы можете улыбаться и хлопать в ладоши, но если вы в этот момент злы, то уже завтра утром окажетесь в ГУЛАГе.

Наш дом в огне-2 : о чем Грета Тунберг рассказала в Давосе

  • Не думайте, что от подобных режимов можно скрыться в зажиточных укромных уголках вроде Давоса: не верите — спросите Джеффа Безоса. В том же сталинском режиме коммунистическая элита была под колпаком в первую очередь. Это справедливо и для цифровых диктатур будущего: чем выше иерархия, тем внимательнее за вами будут следить. Так что если вы получили подозрительное сообщение по WhatsApp от какого-то принца, не открывайте его!
  • Люди все больше и больше будут доверять искусственному интеллекту, передавать свои знания и умения алгоритмам. В принципе уже сегодня миллиарды пользователей считают, что Facebook лучше них выстроит их собственную картину дня, Google подскажет, правдива ли та или иная информация, Netflix выберет фильм для просмотра, а Amazon и Alibaba посоветуют следующую покупку. Те же алгоритмы в недалеком будущем теоретически легко могут предсказать за человека, куда ему идти работать и с кем заводить брак, а компаниям и банкам — кого нанимать на работу и кому одалживать. И даже центробанки способны опираться на ИИ в расчете оптимальной ставки. Все это будет происходить только потому, что так решил компьютер.
  • Человеческий мозг уже сегодня не может вместить в себя все те знания о биологии, всю ту вычислительную мощность и все те данные, что хранятся в компьютере. Все это ведет к тому, что однажды мы попросту перестанем понимать решения искусственного интеллекта. Даже в относительно свободных странах люди рискуют потерять контроль над собственной жизнью и государственным управлением. То, как работает финансовая система, уже сегодня понимает в лучшем случае 1% человечества. Через двадцать лет этот показатель может снизиться до нуля.
  • В свете наступления искусственного интеллекта мы сталкиваемся с философским банкротством — у нас нет ресурсов и инструментов, чтобы осознать и объяснить происходящие перемены. Политические и бизнес-элиты посредством новых технологий могут создавать на Земле рай и ад по своему усмотрению. Но философы пока не могут концептуально осмыслить эти перспективы. В итоге в этом новом цифровом аду рискует оказаться все человечество.

Это эпидемия цифрового аутизма : о чем доктор Курпатов и йог Садхгуру рассказали на завтраке Сбербанка в Давосе

  • Подрывные технологии грозят и нашему биологическому устройству. В ближайшие десятилетия искусственный интеллект и биотехнологии способны дать нам богоподобные свойства, вплоть до искусственного создания новых людей, органической жизни, сформированной разумным замыслом. Армии, корпорации и государства могут использовать новые умения и для манипуляций — формировать у зависимых от них граждан особый набор свойств. Это будет раса лояльных дисциплинированных людей, не умеющих сострадать, быть творцами и духовно глубокими личностями.
  • Все это не приговор, а лишь один из сценариев развития. ИИ и биотех позволят построить в XXI веке разные по устройству общества. Если вы боитесь каких-то из описанных мною угроз, в ваших силах повлиять на то, чтобы эти угрозы не реализовались. Но нам точно понадобится глобальная кооперация. Лидерам важно помнить, что ни одна страна в одиночку не справится с рисками вроде ядерной войны и климатической катастрофы. То же и с ИИ.
  • Важно доверие — государства должны быть уверены, что сосед не поставит подножку и не разработает в одиночку смертоносную технологию. Потому что в противном случае не будет иметь значения, кто был первым, — проиграет все человечество.
  • Сегодня власти отдельных стран должны понять, что противостояние между национализмом и глобализмом — искусственный конструкт прошлого. Такой коллизии нет в повестке, национализм — не про ненависть к иностранцам, а про любовь к согражданам. В XXI веке, чтобы защитить свою страну, вы должны кооперироваться с иностранцами. Всякий честный националист сегодня обязан быть глобалистом.

Браудер в Давосе поспорил с Орешкиным о будущем России

  • Хороший пример такой кооперации — чемпионат мира по футболу. Это одновременно и соревнование между национальными сборными, и образ глобальной гармонии, в которой все соглашаются участвовать по одним и тем же правилам. Если вы любите чемпионаты мира, считайте, что вы уже глобалист. Осталось только перенести единые правила с футбола и на климатические угрозы, и на опасные технологии.
  • Договориться будет непросто, но надо помнить, что человечество уже смогло перешагнуть закон джунглей, по которому жило и развивалось много веков. Согласно этому закону, нации не могли обходиться без регулярных конфликтов, а мир всякий раз воспринимался лишь как временное затишье между прошедшей и будущей войнами. Нынешний глобальный миропорядок, несмотря на все недостатки, позволил нам построить процветающую и эволюционирующую систему. Мир больше не значит перемирие .
  • Но не стоит успокаивать себя этими мыслями. Да, сегодня в мире больше людей кончают жизнь самоубийством, чем погибают на войнах, порох стал менее смертоносным порошком, чем сахар, а большинство стран (за редкими примечательными исключениями вроде России) не мечтают о захвате территорий соседей и больше тратят на образование и медицину, чем на оборону. Это больше не джунгли. Но и благополучие иллюзорно: страны забывают, насколько в реальности хрупко устройство мира, и недооценивают то, что мы имеем. Планета напоминает дом, жители которого просто спят в нем, но не ремонтируют. Он продержится еще сколько-то лет, но однажды, если мы ничего не изменим, рухнет. И мы вернемся в джунгли.
  • Конечно, даже если человечество уничтожит само себя, это будет еще не конец света. Кто-то, вероятно, выживет. Возможно, крысы. Выживут и изобретут новую цивилизацию. И даже учтут наши ошибки. Но мне бы хотелось верить, что апокалиптический сценарий не сбудется и ответственность за решение проблем возьмут на себя лидеры, которые собираются здесь, в Давосе.

Проводники инноваций: самые влиятельные бизнес-мыслители мира

1. Клейтон Кристенсен 1 из 10 Getty Images / Fotobank 2. В. Ким Чан и Рене Моборн 2 из 10 3. Роджер Мартин 3 из 10 Getty Images / Fotobank 4. Дон Тапскотт 4 из 10 Corbis / Foto SA 5. Виджей Говиндараджан 5 из 10 Getty Images / Fotobank 6. Рита Макгрэт 6 из 10 Betsy Weber/Flickr 7. Майкл Портер 7 из 10 Getty Images / Fotobank 8. Линда Хилл 8 из 10 9. Эрминия Ибарра 9 из 10 10. Маршалл Голдсмит 10 из 10 Diomedia 1. Клейтон Кристенсен 2. В. Ким Чан и Рене Моборн 3. Роджер Мартин 4. Дон Тапскотт 5. Виджей Говиндараджан 6. Рита Макгрэт 7. Майкл Портер 8. Линда Хилл 9. Эрминия Ибарра 10. Маршалл Голдсмит

1. Клейтон Кристенсен

Кто: профессор Гарвардской бизнес-школы

Влияние: Кристенсен оказал глубокое влияние на современный бизнес, констатируют авторы исследования. В деловом бестселлере 1997 года Дилемма Инноватора профессор Гарварда первым сформулировал причины гибели сильных компаний под влиянием новых технологий. Идея подрывной инновации стала знакома целому поколению менеджеров, которые в терминах Кристенсена объясняли и продолжают объяснять себе устройство бизнес-экосистемы, способной стремительно и радикально поменяться под влиянием инновационных обстоятельств.

В последние годы главный мировой бизнес-теоретик сосредоточился на применении своих трудов к социальным сферам — здравоохранению и образованию. По мнению Кристенсена, бизнес-подход способен помочь справиться с вызовами, которые стоят перед обществом сегодня. Его последняя книга Стратегия жизни — попытка ответить на вопрос, способен ли человек эффективно выстроить стратегию своей личной жизни.

Интересна статья?

0 комментариев *