AIN - Мнение: как изменится общество, когда всюду будет ИИ

2 апреля 2018

Колумнист журнала Smithonian Джулс Джулиен представил, как может выглядеть мир в 2065 году. По его мнению, к тому времени пройдет 10 лет с момента наступления сингулярности — ситуации, когда возможности искусственного интеллекта сравняются (а вскоре и быстро обойдут) человека. Редакция AIN.UA приводит сокращенный перевод материала.

Для начала Джулиен рассказывает об истории работы над искусственным интеллектом. Впервые ученые задались вопросом создания машины, способной думать, еще в 1956 — их совместную конференцию называют Дартмундским семинаром. С тех пор идея часто оказывалась практически в забвении из-за отсутствия ощутимого прогресса, но в последние годы ИИ показывает небывалую скорость развития.

Хедж-фонды используют ИИ для анализа цен на акции, Google применяет его для диагностики сердечных заболеваний, а почтовый оператор American Express создает умных ботов для обслуживания персонала. Исследователи больше не говорят о большом, глобальном искусственном интеллекте — их теперь существует сотни и тысячи, каждый со своей специализацией. Вошло в широкий обиход и понятие «машинное обучение»: алгоритмы с потрясающей успешностью тренируются на массивных дата-сетах, обучаясь опознавать необходимые информационные паттерны.

Однако «узкий» ИИ — лишь промежуточная веха. Главной целью остается полноценный искусственный интеллект, который превзойдет человека во множестве областей. Часть ученых верит, что его появление отделяют всего 30 лет. Другие говорят о столетиях. Эта точка перехода для ИИ также известна как сингулярность — за ее границей искусственному интеллекту понадобится всего несколько дней, чтобы на порядок превзойти человеческие способности. А может быть, хватит и нескольких часов.

Джулиен рисует дистопические перспективы такого будущего: может возникнуть как система базового дохода, так и рост финансового и социального неравенства. Возможно, ИИ-роботы будут ухаживать за стариками — сейчас такие эксперименты проводит университета Брауна и компания Hasbro, которые создали робо-кота, напоминающего владельцу о необходимости принять таблетки и умеющего следить за положением глаз. Возможно, использование ИИ поможет разгадать тайну космической темной материи. Космические корабли, управляемые ИИ, достигнут пояса астероидов, а на Земле ИИ-системы будут бороться с глобальным потеплением — вероятно, развернув над океаном тысячи светоотражающих дронов.

Автор задается справедливым вопросом: останется ли при таком раскладе необходимость в людях? Или предупреждения Билла Гейтса и Илона Маска о возможной угрозе человечеству все-таки справедливы? Проанализировав изученную информацию и десятки интервью с экспертами, Джулиен сделал пять художественных зарисовок из 2065 года

Права сверхлюдей

Для начала Джулиен изображает такую ситуацию — слушания в Верховном суде США по делу о признании искусственного интеллекта Альфа-4 настоящим человеком. Ситуация упирается в глобальный вопрос: может ли ИИ действительно быть сознательным? Государство радикально против, а ИИ нанял адвокатов для отстаивания противоположной позиции.

Тем временем протестующие на улицах грозятся атаковать дата-центры, если Альфа-4 будет признан равным человеку в правах и возможностях. Люди обеспокоены: труд роботов облагается налогами, в то время как они получают базовый доход, их дети обучаются по сверх-персонализированным учебным программам, а бедность давно забыта.

В случае победы Альфа-4, он сможет самостоятельно распорядиться заработанными деньгами и, возможно, потратит их на создание корабля для полета к Альфа Центавре, а не на фонтаны для людей где-нибудь в пригородах. Государственные юристы в итоге отбиваются, заявляя, что не способны получить никаких доказательств о существовании у ИИ эмоций или «человечности». Защитники Альфа-4 отвечают не менее резко: смогут ли люди спокойно спать по ночам, зная о неравенстве между ними и тем, кто в сотни раз превосходит их возможности?

Ультрасовременный роман
В 2065 многие люди полностью зависимы от персональных ассистентов. Например, вы можете попросить их спланировать свидание. ИИ найдет в облаке возможные варианты, спроецирует с помощью вашего браслета их высококачественные голограммы, подскажет наиболее интересного человека и забронирует столик в ресторане.

За годы сбора информации ИИ лучше разбирается в ваших отношениях: он предлагает вам развестись с мужем, а как только вы соглашаетесь — улаживает все бюрократические процедуры и подыскивает свободное жилье для переезда. Его влияние не ограничивается только отношениями и недвижимым имуществом: ИИ знает вас лучше, чем кто-либо другой. Он запоминает все диалоги, все ваши гениальные изобретения, которые взбрели перед сном. Алгоритм помогает вам принять наилучшие решения. Это как команда гениев на подхвате — Эйнштейн для физики, Стив Джобс для бизнеса.

ИИ также знает о вашем любимом авторе — это Джейн Остин. Он использовал китайский сервис, который несколько часов сканировал все произведения писательницы и теперь может создавать новые, неотличимые по стилю от оригинала. Теперь вы каждый месяц читаете по свежей книге Джейн Остин, а потом часами обсуждаете любимых персонажей с персональным ассистентом.

Но кое-кто не желает полностью полагаться на ИИ, поэтому регулирует его влияние: 55% на романтические отношения, 75% на финансы, 100% на здоровье.

Живите и процветайте
Представьте себе несколько жизней: в 25 вы скалолаз, в 55 преподаете дзюдо, в 95 решили заняться кинематографом, в 155 стали поэтом. Это возможно благодаря неустанной работе ИИ: он круглосуточно следит за состоянием вашего здоровья при помощи датчиков.

Доктора получают максимально полные данные о состоянии вашего организма: состояние иммунитета, уровень белков, уровень метаболизма и сотни других параметров. Потом они сравнивают это с миллионами других зарегистрированных случаев. И это не говоря о редактировании генома, которое позволяет заменять уязвимые и неудачные частицы ДНК. Благодаря сверхсложному анализу генетических мутаций, теперь вполне можно «запрограммировать» человека на карьеру великого пианиста или спортсмена. Возможно, Верховный суд даже вновь рассмотрит дело о допуске на Олимпиаду специально «отредактированных» атлетов.

Люди смотрят на своих предшественников из начала XXI века, как те смотрели на жителей XVIII века: это эпоха болезней и катаклизмов. К 2065 человечество максимально освободило себя от биологии, которая и подарила ему жизнь.

Дорогое сопротивление

ИИ-революция выглядит многообещающе, но ее благами воспользуются не все. В городах наверняка появятся и квартала без ИИ — там будут жить, например, религиозные люди. Как и в былые времена, они смогут самостоятельно водить автомобили, но и натыкаться на вспышки насилия, давно ставшие дикостью для остального общества.

Джулиен представляет: жизнь в таких местах окажется непростой. Без предоставления личных данных крупным компаниям размер выплат базового дохода будет минимальным. Продолжительность жизни тоже будет вдвое меньше, чем у обычных граждан. Появятся нелегалы и «челноки», которые курсируют между границами регионов: хакеры, воры технологий или перевозчики лекарств.

Одной из главных проблем может оказаться разница в размере населения: зоны под контролем ИИ будут демонстрировать низкую статистику рождаемости, в противовес обычным. Возможно, недобор смогут компенсировать за счет беглецов или детей, выращенных в пробирках. В противном случае будущее для большинства людей будет выглядеть не как в «Бегущем по лезвию», а как в фильме «Свидетель», где Харрисон Форд попадал в крупную общину амишей.

Еще больший брат
В 2065 ИИ будет помогать в государственном управлении. Некоторые страны даже позволяют алгоритмам голосовать вместо жителей, наблюдая за сокращением коррупции. За несколько лет люди привыкают доверять ИИ, которые советуют лидерам стран лучшие экономические и военные решения. Внешнеполитическими угрозами занимаются алгоритмы, наученные дипломатическими дата-сетами.

В Лагосе, например, полицейские дроны прочесывают город в поиске сцен совершения преступлений. В каждом участке работает алгоритм, определяющий ложь — так что лживые полицейские тоже становятся пережитком прошлого. Над мостами тем временем кружат так называемые «психо-дроны», присматривающие за желающими покончить жизнь самоубийством. Вместо апокалиптических сценариев, ИИ помогает людям.

Теперь представьте, что вы живете в тоталитарной стране, вроде Северной Кореи. Государство знает о вас все — ему даже не требуется задерживать вас физически. У полиции на руках и так есть ваша криминальная история, ДНК, список сексуальных предпочтений. Дроны следят за каждым шагом. Иногда перед вами появляется антигосударственная реклама, а браслет на руке регистрирует частоту сердечных сокращений — для проверки лояльности. Приватность умерла еще в 2060-х, поэтому даже полученный вами звонок может быть имитацией от ИИ.

Политическим заключенным тоже придется несладко. Как только тираны поймут, что проблема всегда заключается в людях, то начнут в буквальном смысле «выкачивать их мозги». Из заключения вместо реального человека вернется только голограмма, которая будет симулировать активность и «ходить» по улицам города. Зачем? Чтобы с орбитальных спутников все выглядело нормально, а правители могли продолжать обогащение, продавая данные китайской ИИ-компании, которая не подозревает об их искусственном происхождении.

Наконец, запрограммированный на устранение любого неповиновения ИИ может убрать с трона и самого лидера, заменив его на такую же голограмму для связи с внешним миром.

Итоги
Джулиен заключает, что мы не получим ИИ нашей мечты или ИИ, который нас уничтожит. Это просто инструмент, к созданию которого нужно подойти ответственно. Между двумя выборами: новые технологии и отсутствие новых технологий, люди всегда голосуют за первый вариант. Но зачастую случается так, что новая разработка настолько сильно меняет уклад, что избавиться от нее уже не получится. Искусственный интеллект не будет исключением — внедренный на тысячах и тысячах компьютеров, он никуда не исчезнет. Но Джулиена волнует не злобный алгоритм, а то, что у людей во вселенной просто не будет предназначения — им останется только играть в видеоигры.