Мюррей Шанахан. Технологическая сингулярность

Это довольно небольшая книга по очень обширной теме. Фактически, это только введение в проблему. Основное внимание уделяется будущему искусственного интеллекта, а сопутствующие темы, такие как нанотехнологии и биотехнология, затрагиваются лишь вскользь. Попутно автор затрагивает интересные философские вопросы, заставляя читателя размышлять, к примеру, о том, чего мы хотим как биологический вид.

Первое упоминание сингулярности принадлежит Джону фон Нейману (1903-1957): поскольку технологический прогресс, определяющий то, как мы живём, постоянно ускоряется, должен наступить такой момент, когда люди не смогут поспевать за технологиями — наступит то, что математики называют сингулярностью. Главным популяризатором термина стал Рэй Курцвейл в бестселлере Singularity is Near (2005). Многие из тех, кто читает эти строки, доживут до точки технологической сингулярности, которая случится через несколько десятилетий, примерно в 2040 году. После этого момента наступит вообще непонятно что, невозможно понять и предсказать.

Сингулярность в истории человечества может настать, если экспоненциальный технический прогресс принесет с собой такие масштабные перемены, что всякой деятельности человека, как ее понимают сейчас, придет конец. Привычные институты — экономика, правительство, государство, закон — не сохранятся в нынешнем виде. На смену базовым общечеловеческим ценностям — неприкосновенность жизни, стремление к счастью, свободе выбора — могут прийти другие ценности. Даже наше представление, что означает быть человеком, личностью, живым, осознавать себя, занимать положение в обществе, — все это может быть оспорено, причем не философски, а практически в силу прямых и непосредственных обстоятельств.

«Технологическая сингулярность» Мюррея Шанахана из серии «Базовые знания» издательства MIT Press посвящена гипотезе о технологической сингулярности — воображаемой точке технологического прогресса, означающей масштабные перемены в жизни и обществе. В книге исследуются два варианта возникновения технологической сингулярности — путем развития искусственного интеллекта и нейротехнологий. Решительно всё изменится, если сбудется то, что обещают нам искусственный интеллект и нейротехнологии. ИИ станет не только источником технологий, но и их продуктом. Причем цикл обратной связи приведет к непредсказуемым и потенциально взрывоопасным последствиям. Если конструируется разум, который одновременно является автором такого конструирования, он может вступить в цикл самосовершенствования. Но даже если умственные способности ИИ будут равны человеческим, такой интеллект уже станет сверхразумом, так как разум человека несовершенен — он медлителен и непродуктивен, отключается на метаболизм и сон, не способен долго концентрироваться на одной задаче и часто отвлекается.

Сегодня в новостях прочитал: в Новой Зеландии официально признано, что все животные являются разумными существами, обладают чувствами и с ними следует обращаться как с разумными тварями. Пока не ясны многие детали, все ли виды животных признаны в Новой Зеландии равными и одинаково разумными, как обстоят дела с сельскохозяйственными животными, как определяется наличие разума и т.п. Но в любом случае создан невероятный прецедент.

В книге Мюррея Шанахана приведен пример спонтанной инновации в мире животных. В 2002 году ученые из Оксфорда изучали содержащихся в неволе новокаледонских ворон, которые славятся изобретательностью. Экспериментальное оборудование состояло из маленького ведерка с едой и высокой трубы. Ведерко опускали в трубу так, чтобы ручка не выступала из трубы. Птицам давали куски изогнутой проволоки, которые они быстро научились использовать как крюки, чтобы вытаскивать ведерки с пищей. Но в одном эксперименте в клетке оставили только кусок прямой проволоки. Без всякого предварительного обучения ворона вставила один конец проволоки в отверстие клетки и изогнула его в виде крюка, с помощью которого затем вытащила свою еду.

Интеллект — это сочетание изобретательности и здравого смысла. Чтобы догадаться сделать крюк, нужна изобретательность, а чтобы понимать, какого результата можно ожидать, нужен здравый смысл и жизненный опыт в физическом мире о природе пластичных материалов. Сегодня мы знакомы с некоторыми образцами ИИ в различных автоматических речевых системах, бойко отвечающих на самые разные задаваемые им вопросы. Но такие системы не имеют опыта соприкосновения с физическим миром, что нередко приводит их в тупик. На вопрос: «Если подвесить крысу за хвост, что будет ближе к земле — нос или уши?» ответить может даже ребенок, хотя никогда не вешал крысу за хвост и не видел такого. Но ИИ может попасть в тупик, так как не может смоделировать подобный сценарий.

Искусственный интеллект способен к автоматическому самообучению (machine learning), и как показывают исследования Google, в этом огромную роль способны играть Большие данные (Big Data) — человек не в состоянии переваривать большие объемы данных, а для машины чем больше массивы данных, тем качественно точнее оказывается ее интеллект.

В 1950 году знаменитый физик, лауреат Нобелевской премии Энрико Ферми выразил нерадостную мысль, которая получила название парадокса Ферми. В Галактике колоссальное количество звезд, у многих из которых наверняка есть планеты, имеющие подходящие условия для возникновения жизни. Там вполне вероятно появление интеллекта и технически развитых цивилизаций. Поэтому, логически рассуждая, можно решить, что космос должен кишеть этими внеземными цивилизациями. «Ну, и где же они в таком случае?» — воскликнул Ферми.

Тишине космоса есть много всяких объяснений. Но все они грустные: цивилизации долго не живут, а сами себя уничтожают. В том числе, возможно, при помощи враждебного искусственного интеллекта. В заключение автор книги отмечает, что если мы одиноки во Вселенной, на нас лежит особая ответственность: мы должны решить, что делать с этой технологией, и не только во имя человека, но и во имя будущего самого сознания в Галактике. Остается лишь надеяться, что искусственный интеллект не уничтожит нас, а будет обращаться с нами как с разумными животными.

Мюррей Шанахан. Технологическая сингулярность (The Technological Singularity). — М.: Издательская группа «Точка», 2017. — 256 с. — Твердый переплет. — (Серия «Завтра это будут знать все»)

Сэмюэл Грингард. Интернет вещей. Будущее уже здесь

Многим кажется, будто Интернет вещей где-то далеко. Но будущее уже здесь. Internet of Things или IoT — это не просто модное словечко, не прихоть или очередной пузырь вроде лопнувших дот-комов. Это фундаментальное изменение, подлинная новая техническая новизна, Четвертая промышленная революция, совершенно иной образ жизни. В Интернете уже давно больше вещей, чем людей. Но скоро огромное множество вещей получат свои радиометки или пассивные датчики, а любой владелец смартфона превратится в потенциальную информационную точку с далеко идущими последствиями. О мире физических объектов мы знаем удивительно мало, а ведь даже тело человека может стать «вещью», постоянно транслирующей громадное количество данных для накопления в базах данных, чтобы затем извлекать оттуда самые неожиданные знания.

В новом информационном мире мы все становимся источниками различной информации, которую собирает, накапливает и анализирует огромное множество умных устройств. Все вещи способны поумнеть — часы, смартфоны, автомобили, дома, холодильники, кофеварки и даже пивные бутылки. Радикально изменятся быт, медицина, транспорт, связь и многое другое, что сегодня трудно вообразить, так как трудно заглянуть за горизонт. Но Big Data и сочетании с IoT приведут к революционным переменам более существенным, чем массовое внедрение интернета и мобильной связи. Автор детально анализирует историю развития вычислительной техники и возможные сферы применения Интернета вещей, пытаясь моделировать будущее, в котором вещи, подключенные к Интернету, играют значительную роль.

Новые системы всего через несколько лет позволят создать умные сети и города, динамично приспосабливающиеся к постоянно меняющейся ситуации на дорогах, потребительским привычкам, погоде и многим другим переменным факторам. Эти системы значительно снизят количество аварий на дорогах, потребление энергии, будут экономить время и деньги каждого человека. Это будет совсем другой мобильный подключенный мир, использующий облака и цифровые инструменты.

Книга совсем не развлекательная, написана она не очень веселым языком, читать ее местами трудно из-за высокой густоты новых и не очень понятных терминов. Но разобраться можно.  И, мне кажется, весьма полезно.

Читать фрагмент книги

Сэмюэл Грингард. Интернет вещей. Будущее уже здесь. (The Internet of Things. The MIT Press Essential Knowledge series) — М.: Альпина Паблишер, 2016. — 188 с. — Тираж 2000 экз. — Твердый переплет, суперобложка.

Юваль Ной Харари: Бесполезный класс и новая политическая революция

Новая звезда мировой популярной науки — израильский профессор Юваль Ной Харари, автор бестселлера «Сапиенсы: краткая история человечества», — рассуждает в своей книге о том, как наш вид дошел до такой жизни. Еще 100 тысяч лет назад люди были незначительной группой приматов, ютящейся в африканской саванне, а теперь мы контролируем эту планету.

Тезис Харари заключается в том, что это стало возможным благодаря способности человека к гибкой социальной кооперации в больших масштабах. Люди не являются единственным видом животных, способным к кооперации тысяч особей — это также умеют делать насекомые. Но социальная жизнь насекомых не отличается пластичностью, как шутит Харари: пчелы не могут свергнуть свою королеву и учредить республику пчел. С другой стороны, шимпанзе или хищные кошки имеют довольно гибкую социальную структуру, но она ограничена личными связями: шимпанзе не летают на конференции по видам бананов.

В основе успеха нашего вида, таким образом, лежит способность к социальному воображению и созданию коллективных символических систем: религии, права, денег и так далее. Эти идеи позволяют коммуницировать, обмениваться опытом и помогать друг другу гигантскому количеству незнакомых людей, причем мы сохраняем способность к переизобретению новых правил — история человечества может быть описана как трансформация символических систем, поддерживающих социальный порядок.

Вторая книга Харари (и это довольно ожидаемый ход) — Homo Deus: A Brief History of Tomorrow, она выйдет в сентябре, будет посвящена тому изобретению, которое может стать последним для нашего вида — искусственному интеллекту. Харари считает, что основная проблема создания ИИ связана с социальными последствиями: он предсказывает появление класса «бесполезных людей». Соответствующие страхи уже обсуждались во время первой индустриальной революции, и тогда они себя не оправдали, но с точки зрения Харари, сейчас ситуация принципиально иная. Индустриальная революция привела к тому, что машины начали выполнять работу, связанную с физическими навыками людей. Но настоящие проблемы начнутся, когда компьютеры смогут выполнять те функции, которые были связаны с нашими когнитивными способностями, — и это происходит прямо сейчас. Пересказ позиции Харари по этому поводу публикуетGuardian.

Самое ценное в этой истории касается замечания Харари о том, что современное государство выстроено вокруг идеи человека как солдата и как работника, и что, следовательно появление класса «бесполезных людей» с неизбежностью ставит вопрос о политической революции (которая может протекать в разных видах, но суть от этого не изменится — мир, в котором работа кончилась, несовместим с современными государственными институтами).

Ценных рекомендаций на тему, «что делать», у Харари нет, но он говорит, что этот вопрос нужно ставить как политический, а не просто как отвлеченную тему, которая обсуждается группой фриков в университетах.