Как классификация технологий может помочь предотвратить риски

Обзор книги “Грядущая волна. Технологии, власть и величайшая дилемма XXI века” Мустафы Сулеймана

Мы живем в эпоху быстрого развития и распространения новых технологий, которые меняют нашу жизнь. Искусственный интеллект, квантовые компьютеры, биотехнологии, нанотехнологии, робототехника, энергетика и другие области науки и техники создают новые возможности и вызовы для человечества. 

Как мы можем понять, какие технологии имеют большее или меньшее влияние на наше будущее? И как мы можем избежать нежелательных сценариев? 

Для ответа на эти вопросы нам нужна классификация технологий по степени и продолжительности их влияния, чтобы понять, чему следует уделить особое внимание. В этом нам поможет книга “The Coming Wave: Technology, Power, and the Twenty-first Century's Greatest Dilemma” Мустафы Сулеймана.

Мустафа Сулейман — британский исследователь и предприниматель, сооснователь и бывший глава DeepMind, одной из ведущих компаний по AI, которая была куплена Google в 2014 году. 

Мустафа Сулейман выделяет три типа технологий: трансформирующие, усиливающие и поддерживающие:

Три типа технологий по степени и продолжительности их влияния:

1. Трансформирующие технологии

Трансформирующие технологии - это те, что радикально меняют наш мир, создавая новые реальности и возможности. Они имеют глобальный и сложный характер, с высоким уровнем неопределенности. Зачастую они носят необратимый характер. 

Примеры трансформирующих технологий: искусственный интеллект, квантовые компьютеры, биотехнологии, нанотехнологии и робототехника. 

2. Усиливающие технологии

Усиливающие технологии улучшают мир через расширение наших возможностей и увеличение ресурсов. Они имеют региональный, простой и прогнозируемый характер, с обратимыми последствиями. 

Примерами усиливающих технологий: энергетика, транспорт, коммуникации, медицина и образование. 

3. Поддерживающие технологии

Поддерживающие технологии - способствуют решению актуальных проблем и предотвращению угроз. Они локальны, реактивны и адаптивны. 

Примеры: безопасность, здравоохранение, экология, юриспруденция и этика.

   Естественно, это несколько упрощенная классификация. На самом деле, некоторые технологии могут быть одновременно трансформирующими и усиливающими, в зависимости от того, как они используются и кем. Однако, по мнению Сулеймана, такой классификации технологий вполне достаточно, чтобы понять главное - человечеству следует ответственно подходить к их использованию, потому что трансформирующие технологии могут подрывать существующие институты, нормы и ценности, создавая новые формы конфликта, неравенства и нестабильности. 

Он считает, что усиливающие и поддерживающие технологии могут помочь нам справиться с этими вызовами, если мы будем использовать их правильно, и предлагает для этого Концепцию сдерживания в качестве стратегического подхода к работе с наиболее мощными технологиями. 

Концепция предполагает два типа сдерживания и два уровня сдерживания.

Два типа сдерживания: сдерживание угрозой наказания и сдерживание обещанием вознаграждения, где:

- Сдерживание угрозой наказания - это такой тип сдерживания, при котором одна сторона пытается предотвратить или ограничить действия другой стороны, угрожая ей нежелательными последствиями в случае нарушения определенных правил или условий. Например, государство может сдерживать преступность, устанавливая законы и наказания за их нарушение, или сдерживать агрессию другого государства, обладая ядерным оружием и готовностью его применить.

- Сдерживание обещанием вознаграждения - это такой тип сдерживания, при котором одна сторона пытается стимулировать или поддерживать действия другой стороны, обещая ей желательные выгоды в случае соблюдения определенных правил или условий. Например, государство может сдерживать коррупцию, предлагая чиновникам повышение или премию за честную работу, или сдерживать конфликт с другим государством, предоставляя ему экономическую или политическую помощь.

Два уровня сдерживания: сдерживание первого порядка и сдерживание второго порядка, где:

 - Сдерживание первого порядка - одна сторона пытается влиять на поведение другой стороны непосредственно, используя угрозы или обещания. Например, родитель может сдерживать ребенка от плохих оценок, угрожая ему лишением компьютера или обещая ему поездку в Диснейленд.

- Сдерживание второго порядка - одна сторона пытается влиять на поведение другой стороны косвенно, используя влияние третьей стороны, которая может применить угрозы или обещания. Например, учитель может сдерживать ученика от нарушения дисциплины, угрожая ему сообщить его родителям или обещая ему похвалу от директора.

ИМХО: Как я написал выше, предлагаемая автором классификация технологий не претендует на точность и окончательность, а скорее представляет собой рабочую гипотезу, которая может быть улучшена и дополнена. Однако основной посыл книги сложно оспорить: мы должны быть открытыми к новым технологиям, но вместе с тем критично подходить их использованию. Нельзя доверять судьбу человечества в руки нескольких корпораций и потому важно стремиться сделать работу над трансформирующими технологиями максимально прозрачной для общества.