“Суперинтеллект” (Superintelligence) – краткий обзор книги
Суперинтеллект задаётся вопросом, что произойдёт, когда нам удастся создать компьютеры, которые будут умнее нас, включая то, что нам нужно сделать, как это будет работать и почему это должно быть сделано именно так, как нужно, чтобы человеческая раса не вымерла.
Матрица, Терминатор, Железный человек – список фильмов, в которых некая форма искусственного интеллекта внезапно сходит с ума и пытается захватить мир, очень длинный. Эта идея появилась ещё в 50-х годах прошлого века, но, похоже, мы все ближе к миру, в котором компьютеры будут такими же умными, как люди, или даже умнее.
Вопрос в том, как это будет выглядеть? Смогут ли машины действительно восстать против нас? Воплотим ли мы ИИ в человекоподобных роботах? Начнёт ли интернет думать?
Ник Бостром называет это явление суперинтеллектом. И если некоторые книги пытаются предсказать, что произойдёт после того, как мы его создадим, то «Суперинтеллект» озабочен тем, как определить, каким должен быть путь к нему, чтобы он сработал в нашу пользу.
Вот 3 урока о состоянии искусственного интеллекта, которые покажут вам, что от каждого из нас зависит, насколько хорошим будет наше будущее:
- Раньше ИИ был ограничен аппаратными средствами, а теперь это в основном проблема данных.
- Есть два разных способа создания сверхразумных компьютеров.
- Сверхинтеллект должен быть результатом глобального сотрудничества, а не какой-то секретной правительственной программы, иначе нам конец.
Забудьте о пыльном хрустальном шаре на чердаке, эта книга позволит вам заглянуть в будущее гораздо яснее!
Изначально ИИ был ограничен аппаратным обеспечением, а теперь это в основном вопрос подачи компьютерам достаточного количества данных.
После изобретения Аланом Тьюрингом «машины Тьюринга» – первого устройства, систематически выполняющего инструкции в автоматическом режиме (смотрите «Игру в имитацию» для более подробной информации, превосходный фильм), первый настоящий «цифровой» компьютер был завершён в 1946 году .
С тех пор учёные-компьютерщики задаются вопросом, как заставить эти машины думать так же, как мы. Летний исследовательский проект Дартмута по искусственному интеллекту стал одним из первых полноценных семинаров в этой области в 1956 году, и хотя в последующие несколько лет были получены некоторые результаты, например машины решали математические задачи или писали музыку, ИИ вскоре достиг своего предела – аппаратных средств просто не хватало для обработки всей необходимой информации для действительно сложных задач .
До 80-х годов аппаратное обеспечение медленно навёрстывало упущенное, но затем развитие экспертных систем привело к появлению первого, настоящего ИИ, который, например, мог диагностировать автомобили, как это делал механик. Вскоре информация снова стала ограничивающим фактором, потому что при достаточном количестве аппаратных средств для хранения, но недостаточном количестве информации для доступа, даже самые лучшие экспертные системы все ещё не могли победить человека (например, чтобы победить чемпиона мира Гарри Каспарова, Deep Blue потребовалось более десяти лет разработки).
С 90-х годов мы стали умнее в том, как мы создаём ИИ, теперь мы моделируем гораздо больше нейронных систем в мозге и генетики человека – к настоящему времени ИИ пробрался довольно далеко в нашу повседневную жизнь, например, в смартфоны и Google.
Однако нам все ещё не хватает ИИ, который мог бы, например, обыграть не только лучшего парня в шахматах, но и лучшего человека в Jeopardy и Scrabble – обычно мы создаём ИИ на заказ для конкретной цели.
Бостром и другие эксперты ожидают, что компьютеры станут такими же умными, как люди, к 2075 году. Пройдёт ещё 30 лет до 2105 года, и мы получим настоящий сверхинтеллект.
Суперинтеллект может либо имитировать, либо симулировать человека, основываясь на биологии или технологии.
То, что мы сейчас делаем с ИИ, – это в основном обучение компьютеров имитации человеческого мышления . Компьютеры используют логику, чтобы ориентироваться в огромном количестве информации, вычислять вероятности и затем использовать короткие пути, которые люди не могут придумать, чтобы имитировать их поведение – только быстрее.
Как было сказано выше, для этого требуется доступ к большому количеству информации в реальном времени, а это проблема. Альтернативный вариант – заставить компьютеры имитировать человеческий мозг, а не просто подражать ему . Это называется WBE – эмуляция всего мозга – и привело бы к созданию компьютера, похожего на ребёнка: оснащённого базовой информацией о мире и способного самостоятельно усваивать остальное. Для этого нам даже не нужно расшифровывать весь человеческий мозг, нам просто нужно уметь его копировать.
Однако для этого нам потребуется взять настоящие человеческие мозги, извлечь из них данные и каким-то образом загрузить их. Звучит как Minority Report? Ну, это тоже примерно как ????
Если какая-то секретная правительственная программа первой придумает суперинтеллект, нам, скорее всего, конец – придётся работать всем вместе.
Как есть два способа технологически сделать суперинтеллект реальностью, так есть и два разных социальных пути его развития.
Один из них снова очень похож на то, что вы видите во многих фильмах: некое секретное правительственное подразделение или программа десятилетиями трудится за закрытыми шторами, пока не появляется новая часть высококлассной технологии – знаете, что-то вроде А-бомбы .
В этом сценарии небольшая группа создаст одну-единственную сверхразумную машину. Это даст этой стране стратегическое преимущество над всеми остальными – но это также будет проблемой. Ведь если будет существовать всего одна машина, то достаточно будет одной пары злых рук, чтобы уничтожить весь наш вид. А если что-то пойдёт не так, то не хватит людей, которые знают, как это исправить.
Единственный способ, который может сработать, – это второй сценарий: глобальное сотрудничество для постепенного развития сверхразума, основанное на совместной работе человечества как единого целого .
Такая командная работа обеспечит максимальную безопасность всех предпринимаемых шагов, поскольку многие стороны и общественность контролируют проект, разрабатывая по ходу дела правила безопасности. Может, это и не так быстро, но точно безопаснее.
Многие книги на эту тему рисуют светлое будущее бесконечной жизни, нулевой работы и идеального здоровья. Но сначала нам нужно туда попасть. И есть очень реальный шанс, что если мы сделаем это неправильно, то не получим ничего из этого, а окажемся во власти чего-то, что мы создали, но не можем контролировать. Мне нравятся фантазии, но я стараюсь оставаться и в настоящем. Из всех книг по ИИ «Сверхразум» – это та, которую вы должны прочитать первой.
Кому бы я порекомендовал книгу «Суперинтеллекта»?
17-летнему компьютерному гику, который любит смотреть научно-фантастические фильмы, 35-летнему государственному служащему, который чует, что в офисе по коридору происходит что-то странное, и всем, кто беспокоится о будущем, похожем на Матрицу.
“Мастера масштаба” (Masters of Scale) – краткий обзор книги
“Команда соперников” (Team Of Rivals) – краткий обзор книги
“Мастерство” (Mastery) – краткий обзор книги
“Четырехдневная неделя” (The 4 Day Week) – краткий обзор книги
“22 непреложных закона маркетинга” (The 22 Immutable Laws Of Marketing) – краткий обзор книги