Роботам не нужно быть слишком умными, чтобы быть достаточно умными. Если робот сможет исполнять простые приказы и делать работу по дому, то есть управлять несложными машинами вроде кухонного комбайна, – иными словами, эффективно заниматься однообразной работой, – нас это полностью удовлетворит.

Построить робота непросто, потому что необходимо засунуть ему в голову компактный компьютер, если вы хотите, чтобы он хотя бы отдаленно напоминал человека. Сделать достаточно сложный компьютер размером с человеческий мозг тоже очень трудно.

Но забудем на время о роботах. А зачем нам вообще строить компактный компьютер? Детали, из которых делаются компьютеры, становятся все меньше и меньше – от вакуумных трубок и транзисторов до интегральных схем и силиконовых чипов. Предположим, что в дополнение к тому, что мы уменьшаем детали, мы одновременно увеличиваем всю структуру.

Мозг, который становится слишком большим, в конце концов начинает терять эффективность, потому что нервным импульсам требуется больше времени, чтобы добраться до места своего назначения. Даже самые быстрые из них развивают скорость лишь около 6 километров в минуту. Нервный импульс может попасть из одного отдела мозга в другой за 0,002 секунды, но в мозгу длиной в 15 километров – если мы в состоянии себе представить такой – импульсу потребуется 2,5 минуту, чтобы добраться туда, куда ему нужно. Дополнительная сложность, которая становится возможной благодаря большим размерам, окажется совершенно бесполезной просто потому, что информация будет слишком долго путешествовать и обрабатываться в цепях мозга.

Но компьютеры используют электронные импульсы, которые передвигаются со скоростью более 17,5 миллионов километров в минуту. Компьютер протяженностью 650 километров будет посылать электронные импульсы из конца в конец примерно за те же 0,002 секунды. По крайней мере, в этом отношении компьютер таких громадных размеров в состоянии обрабатывать информацию с той же скоростью, с какой это делает человеческий мозг.

Таким образом, если мы представим себе производство компьютеров, состоящих из все более и более миниатюрных деталей, которые все более и более сложно взаимодействуют между собой, и одновременно представим, что

наши компьютеры будут увеличиваться в размерах, не можем ли мы предположить, что рано или поздно наступит момент, когда они начнут выполнять работу, которую сейчас делают люди?

Существует ли теоретический предел разумности компьютера?

Я об этом не слышал. Мне кажется, что всякий раз, когда мы усовершенствуем какую-то модель, делая ее более сложной, возникает ощущение, что этот компьютер способен на большее. Всякий раз, когда мы увеличиваем компьютер в размерах, стараясь одновременно сохранить сложность каждой детали, выясняется, что компьютер способен на большее.

Итак, если мы научим делать достаточно сложные и достаточно большие компьютеры, почему они не могут быть наделены человеческим умом?

Кое-кто наверняка нам не поверит и скажет: «Разве может компьютер создать великую симфонию, произведение живописи или новую научную теорию?»

В таких ситуациях мне всегда хочется ответить вопросом на вопрос: «А вы можете?» Впрочем, не следует забывать, что в мире, населенном самыми обычными людьми, есть и великие люди, настоящие гении. Однако они становятся гениями лишь потому, что атомы и молекулы у них в мозгу организованы особым способом. У них в голове нет ничего другого, кроме атомов и молекул. Если мы особым образом выстроим атомы и молекулы в компьютере, он тоже сможет создавать гениальные произведения; и даже если отдельные его детали будут не такими крошечными и изощренно сложными, как в человеческом мозгу, мы компенсируем это увеличением размеров компьютера.

Кое-кто скажет: «Но компьютеры могут делать только то, на что они запрограммированы».

Ответ на это таков: «Совершенно верно. Но мозг тоже может делать только то, на что он запрограммирован – гениями. Частью программы мозга является способность учиться, что должно войти и в программу сложного компьютера».

На самом деле, если можно создать компьютер, не уступающий по уровню интеллекта человеку, почему нельзя сделать его умнее?

Действительно, почему? Может быть, в этом и заключается эволюция. За три миллиарда лет, методом проб и ошибок на уровне атомов и молекул, в результате чрезвычайно медленного и постепенного усовершенствования появился наконец вид, достаточно разумный для того, чтобы сделать следующий шаг вперед уже в течение века или даже нескольких десятилетий. И вот тогда начнется настоящий прогресс.

Однако если компьютеры станут умнее людей, не возникнет ли опасность, что они нас заменят? Ну а почему бы и нет? Они могут быть не только разумными, но и добрыми и позволят нам просто плыть по течению. Будут держать нас при себе в роли домашних животных или так, про запас.

А теперь подумайте, что мы сами сейчас делаем со всеми живыми существами и с самой планетой, на которой живем. Вполне возможно, уже пора нас заменить? Может быть, главная опасность заключается в том, что компьютеры будут развиваться недостаточно быстро, чтобы занять наше место?

Подумайте об этом[1].