Теперь мы можем считать, что почва расчищена, и мы готовы перейти к дебатам по нашему вопросу: «Могут ли машины мыслить?»
и его вариант, приведенный в конце последнего раздела. Мы не можем полностью отказаться от первоначальной формы задачи, ибо мнения будут расходиться относительно уместности замены, и мы должны, по крайней мере, прислушаться к тому, что следует сказать по этому поводу.
Читателю будет проще, если я сначала объясню свои собственные убеждения по этому поводу. Рассмотрим сначала более точную форму вопроса. Я полагаю, что лет через пятьдесят можно будет программировать компьютеры с объемом памяти около 10 9, чтобы заставить их играть в имитацию настолько хорошо, чтобы средний следователь имел не более 70 процентов шансов правильно опознать себя после пяти минут допроса. Первоначальный вопрос: «Могут ли машины думать!» Я считаю, что это слишком бессмысленно, чтобы заслуживать обсуждения. Тем не менее я полагаю, что в конце века употребление слов и общее образованное мнение изменятся настолько, что можно будет говорить о машинном мышлении, не ожидая возражений. Я полагаю далее, что сокрытие этих верований не служит никакой полезной цели. Популярное мнение о том, что ученые неуклонно движутся от хорошо установленных фактов к хорошо установленным фактам, никогда не подвергаясь влиянию каких-либо недоказанных предположений, совершенно ошибочно. При условии, что будет ясно, какие факты являются доказанными, а какие предположениями, никакого вреда не может быть причинено.
Теперь я приступаю к рассмотрению мнений, противоположных моему собственному.
(1) Теологическое возражение
Мышление есть функция бессмертной души человека. Бог дал бессмертную душу каждому мужчине и женщине, но не любому другому животному или машине. Следовательно, ни животное, ни машина не могут мыслить.
Я не могу принять какую-либо часть этого, но попытаюсь ответить в богословских терминах. Я нашел бы этот аргумент более убедительным, если бы животных причисляли к людям, потому что, на мой взгляд, между типичными одушевленными и неодушевленными существует большее различие, чем между человеком и другими животными. Произвольный характер ортодоксального взгляда становится яснее, если мы рассмотрим, как он мог бы показаться члену какой-либо другой религиозной общины. Как христиане относятся к мусульманскому мнению о том, что у женщин нет души? Но оставим этот момент в стороне и вернемся к основному аргументу. Мне кажется, что приведенный выше аргумент предполагает серьезное ограничение всемогущества Всевышнего. Признано, что есть определенные вещи, которые Он не может сделать, например, сделать один равным двум, но не должны ли мы верить, что Он имеет право даровать душу слону, если Он сочтет нужным? Мы могли бы ожидать, что Он будет использовать эту силу только в сочетании с мутацией, которая снабдила слона должным образом улучшенным мозгом, чтобы служить нуждам этой души. Точно такой же аргумент можно привести и в случае машин. Это может показаться другим, потому что его труднее «глотать». Но на самом деле это означает только то, что мы считаем менее вероятным, что Он сочтет обстоятельства подходящими для дарования души. Обстоятельства, о которых идет речь, обсуждаются в остальной части этого документа. Пытаясь сконструировать такие машины, мы не должны безжалостно узурпировать Его силу создавать души, как и при рождении детей: скорее, в любом случае мы
Однако это всего лишь предположение. Меня не очень впечатляют богословские аргументы, для чего бы они ни использовались. В прошлом такие аргументы часто оказывались неудовлетворительными. Во времена Галилея утверждалось, что тексты «И остановилось солнце… и не спешило заходить около целого дня» (Иисус Навин, X, 13) и «Он положил основания земли, чтобы она не двигаться в любое время» (Псалом cv. 5) были адекватным опровержением теории Коперника. С нашими нынешними знаниями такой аргумент кажется бесполезным. Когда этого знания не было, оно производило совсем другое впечатление.
(2) Возражение «головы в песке»
«Последствия машинного мышления были бы слишком ужасны. Будем надеяться и верить, что они не смогут этого сделать».
Этот аргумент редко выражается так открыто, как в приведенной выше форме. Но это затрагивает большинство из нас, кто вообще об этом думает. Нам нравится верить, что Человек каким-то неуловимым образом превосходит все остальное творение. Лучше всего, если он обязательно покажет свое превосходство, потому что тогда нет опасности, что он потеряет свое командное положение. Популярность богословского аргумента явно связана с этим чувством. Она, вероятно, весьма сильна у интеллектуальных людей, так как они выше других ценят силу мышления и более склонны основывать на этой силе свою веру в превосходство человека.
Я не думаю, что этот аргумент достаточно существенен, чтобы требовать опровержения. Утешение было бы уместнее: может быть, его следует искать в переселении душ.
(3) Математическое возражение
Есть ряд результатов математической логики, которые можно использовать, чтобы показать, что существуют ограничения мощности автоматов с дискретными состояниями. Самый известный из этих результатов известен как теорема Гёделя 1 и показывает, что в любой достаточно мощной логической системе могут быть сформулированы утверждения, которые нельзя ни доказать, ни опровергнуть внутри системы, если, возможно, сама система непротиворечива. Есть и другие, в некоторых отношениях похожие результаты, полученные Черчем, Клини, Россером и Тьюрингом.Последний результат наиболее удобен для рассмотрения, так как он относится непосредственно к машинам, в то время как другие могут быть использованы только в сравнительно косвенных рассуждениях: например, если нужно использовать теорему Гёделя, нам нужно вдобавок иметь какие-то средства описания логики. системы с точки зрения машин и машины с точки зрения логических систем. Рассматриваемый результат относится к типу машины, которая по существу является цифровым компьютером с бесконечной производительностью. В нем говорится, что есть определенные вещи, которые такая машина не может делать. Если он настроен давать ответы на вопросы, как в имитационной игре, будут некоторые вопросы, на которые он либо даст неправильный ответ, либо вообще не даст ответа, сколько бы времени ни отводилось на ответ. Таких вопросов, конечно, может быть много, и на вопросы, на которые не может ответить одна машина, может дать удовлетворительный ответ другая. Мы, конечно, пока предполагаем, что вопросы относятся к типу, на который уместно ответить «Да» или «Нет», а не к таким вопросам, как «Что вы думаете о Пикассо?» Вопросы, на которые, как мы знаем, машины должны дать сбой, относятся к следующему типу: «Рассмотрите машину, указанную следующим образом… . Будет ли эта машина когда-нибудь отвечать «да» на любой вопрос?» Точки следует заменить описанием какой-либо машины в стандартной форме, которая могла бы быть чем-то вроде используемой в § 5. Когда описываемая машина находится в некотором сравнительно простом отношении к изучаемой машине, можно показать что ответ либо неправильный, либо не ожидается. Это математический результат:
Краткий ответ на этот аргумент состоит в том, что, хотя и установлено, что возможности любой конкретной машины ограничены, было лишь заявлено без каких-либо доказательств, что такие ограничения не применимы к человеческому интеллекту. Но я не думаю, что эту точку зрения можно так легко отвергнуть. Всякий раз, когда одной из этих машин задают соответствующий критический вопрос и она дает определенный ответ, мы знаем, что этот ответ должен быть неверным, и это дает нам определенное чувство превосходства. Это чувство иллюзорно? Оно, без сомнения, вполне подлинное, но я не думаю, что ему следует придавать слишком большое значение. Мы слишком часто сами даем неправильные ответы на вопросы, чтобы иметь право быть очень довольными такими свидетельствами ошибочности со стороны машин. Дальше, наше превосходство может ощущаться только в таком случае по отношению к той единственной машине, над которой мы одержали свой маленький триумф. Не может быть и речи о одновременной победе надвсе машины. Короче говоря, могут быть люди умнее любой данной машины, но опять же могут быть и другие машины, умнее, и так далее.
Я думаю, что те, кто придерживается математического аргумента, в основном будут готовы принять игру в имитацию как основу для обсуждения. Те, кто верит в два предыдущих возражения, вероятно, не будут интересоваться никакими критериями.
(4) Аргумент от сознания
Этот аргумент очень хорошо выражен в « Оратории Листера» профессора Джефферсона за 1949 год, которую я цитирую. «Пока машина не сможет написать сонет или сочинить концерт из-за переживаемых мыслей и эмоций, а не из-за случайного падения символов, мы можем согласиться, что машина равна мозгу, то есть не только писать, но и знать, что она написала. Это. Никакой механизм не мог бы чувствовать (а не только искусственно сигнализировать, легкое приспособление) удовольствие от своих успехов, огорчение, когда его клапаны сгорают, согреваться лестью, огорчаться от своих ошибок, очаровываться сексом, злиться или впадать в депрессию, когда не может. получить то, что он хочет».
Этот аргумент кажется отрицанием достоверности нашего теста. Согласно самой крайней форме этого воззрения, единственный способ убедиться в том, что машина мыслит, — это быть машиной и чувствовать себя мыслящим. Тогда можно было бы описать эти чувства миру, но, конечно, никто не имел бы права обращать на них внимание. Точно так же, согласно этой точке зрения, единственный способ узнать, что человек думает, — это быть этим конкретным человеком. На самом деле это солипсистская точка зрения. Возможно, это самая логичная точка зрения, но она затрудняет обмен идеями. А склонен полагать, что «А думает, а Б нет», в то время как Б верит, что «Б думает, а А нет». Вместо того, чтобы постоянно спорить по этому поводу, обычно придерживаются вежливой условности, о которой думают все.
Я уверен, что профессор Джефферсон не хочет становиться на крайнюю и солипсистскую точку зрения. Вероятно, он был бы вполне готов принять игру в имитацию в качестве теста. Игра (с опущенным игроком B) часто используется на практике под названием viva voce , чтобы выяснить, действительно ли кто-то что-то понимает или «выучил это как попугай». Прислушаемся к части такого живого голоса :
Следователь: В первой строке вашего сонета, которая гласит: «Сравню ли я тебя с летним днем», не подойдет ли «день весенний» так же или даже лучше?
Свидетель: Он не будет сканировать.
Следователь: Как насчет «зимнего дня». Это нормально сканирует.
Свидетель: Да, но никто не хочет, чтобы его сравнивали с зимним днем.
Следователь: Можно ли сказать, что мистер Пиквик напомнил вам о Рождестве?
Свидетель: В каком-то смысле.
Следователь: Однако Рождество — зимний день, и я не думаю, что мистер Пиквик будет возражать против сравнения.
Свидетель: Я не думаю, что вы серьезно. Под зимней шкурой подразумевается типичный зимний день, а не особый, как Рождество.
И так далее. Что бы сказал профессор Джефферсон, если бы машина, пишущая сонеты, могла бы ответить так в живом голосе? Я не знаю, расценил бы он машину как «просто искусственно сигнализирующую» эти ответы, но если бы ответы были столь же удовлетворительными и устойчивыми, как в приведенном выше отрывке, я не думаю, что он назвал бы ее «простым изобретением». Эта фраза, я думаю, предназначена для прикрытия таких приемов, как включение в машину записи о чтении кем-либо сонета с соответствующим включением время от времени.
Короче говоря, я думаю, что большинство тех, кто поддерживает аргумент сознания, можно убедить отказаться от него, а не принуждать к солипсистской позиции. Тогда они, вероятно, захотят принять наш тест.
Я не хочу производить впечатление, что я думаю, что в сознании нет никакой тайны. Есть, например, некий парадокс, связанный с любой попыткой его локализации. Но я не думаю, что эти загадки обязательно нужно разгадывать, прежде чем мы сможем ответить на вопрос, который нас интересует в этой статье.
(5) Аргументы от различных ограничений
Эти аргументы принимают форму: «Я допускаю, что вы можете заставить машины делать все, что вы упомянули, но вы никогда не сможете заставить машину делать X». В этой связи предлагаются многочисленные особенности X. Предлагаю на выбор:
Быть добрым, находчивым, красивым, дружелюбным (с. 448), проявлять инициативу, иметь чувство юмора, отличать правильное от неправильного, делать ошибки (с. 448), влюбляться, наслаждаться клубникой со сливками (с. 448), заставить кого-нибудь влюбиться в него, учиться на опыте (стр. 456 f.), правильно употреблять слова, быть предметом его собственных мыслей (стр. 449), иметь такое же разнообразие поведения, как и человек, делать что-то действительно новый (стр. 450). (Некоторым из этих нарушений уделяется особое внимание, как указано в номерах страниц.)
Эти заявления обычно не поддерживаются. Я считаю, что они в основном основаны на принципе научной индукции. За свою жизнь человек повидал тысячи машин. Из того, что он видит о них, он делает ряд общих выводов. Они уродливы, каждая предназначена для очень ограниченной цели, когда требуется для совсем другой цели, они бесполезны, разнообразие поведения каждого из них очень мало и т. д. и т. д. Естественно, он заключает, что это необходимые свойства. машин вообще. Многие из этих ограничений связаны с очень маленькой емкостью памяти большинства машин. (Я предполагаю, что идея емкости памяти каким-то образом расширена для охвата машин, отличных от машин с дискретными состояниями. Точное определение не имеет значения, поскольку в настоящем обсуждении не претендует на математическую точность. ) Несколько лет назад, когда очень мало было слышно о цифровых компьютерах, можно было вызвать большое недоверие к ним, если упоминать их свойства, не описывая их конструкции. Предположительно, это произошло из-за аналогичного применения принципа научной индукции. Эти приложения принципа, конечно, в значительной степени бессознательны. Когда обожженный ребенок боится огня и показывает, что боится его, избегая его, я должен сказать, что он применял научную индукцию. (Конечно, я мог бы также описать его поведение многими другими способами.) Труды и обычаи человечества кажутся не очень подходящим материалом для применения научной индукции. Для получения надежных результатов необходимо исследовать очень большую часть пространства-времени.
Тем не менее, следует сделать особые замечания по поводу многих упомянутых нарушений. Неспособность полакомиться клубникой со сливками могла показаться читателю легкомысленной. Возможно, машину можно было бы заставить наслаждаться этим восхитительным блюдом, но любая попытка заставить ее делать это была бы идиотизмом. Что важно в этой инвалидности, так это то, что она вносит свой вклад в некоторые другие инвалидности, например , в трудность такого же дружелюбия, возникающего между человеком и машиной, как между белым человеком и белым человеком или между черным человеком и черным человеком.
Утверждение, что «машины не могут ошибаться», кажется любопытным. Возникает искушение возразить: «И что, им от этого хуже?» Но давайте займем более сочувственную позицию и попытаемся понять, что же имеется в виду на самом деле. Думаю, эту критику можно объяснить игрой в имитацию. Утверждается, что следователь мог отличить машину от человека, просто задав им ряд арифметических задач. Машина будет разоблачена из-за ее смертоносной точности. Ответ на это прост. Машина (запрограммированная для игры) не будет пытаться дать правоответы на арифметические задачи. Это преднамеренно вносило бы ошибки таким образом, чтобы сбить следователя с толку. Механическая ошибка, вероятно, проявилась бы в неподходящем решении относительно того, какую ошибку сделать в арифметике. Даже такая интерпретация критики недостаточно сочувственна. Но мы не можем позволить себе углубляться в это. Мне кажется, что эта критика основана на смешении двух видов ошибок. Мы можем назвать их «ошибками функционирования» и «ошибками заключения». Ошибки в работе возникают из-за какой-либо механической или электрической неисправности, из-за которой машина ведет себя не так, как было задумано. В философских дискуссиях любят игнорировать возможность таких ошибок; следовательно, речь идет об «абстрактных машинах». Эти абстрактные машины являются математическими фикциями, а не физическими объектами. По определению они не способны к ошибкам функционирования. В этом смысле мы действительно можем сказать, что «машины никогда не ошибаются». Ошибки вывода могут возникнуть только тогда, когда выходным сигналам машины придается какое-то значение. Машина может, например, печатать математические уравнения или предложения на английском языке. Когда печатается ложное предложение, мы говорим, что машина совершила ошибку вывода. Совершенно очевидно, что нет никаких оснований говорить, что машина не может совершать такого рода ошибки. Он может ничего не делать, кроме как многократно печатать '0 = 1'. Если взять менее извращенный пример, у него может быть какой-то метод для получения выводов с помощью научной индукции. Мы должны ожидать, что такой метод будет иногда приводить к ошибочным результатам.
Утверждение, что машина не может быть субъектом своего собственного мышления, конечно, может быть подтверждено только в том случае, если можно показать, что у машины есть некоторая мысль с неким предметом. Тем не менее, кажется, что «предмет операций машины» что-то значит, по крайней мере, для людей, которые имеют с ним дело. Если, например, машина пытается найти решение уравнения x 2 − 40 x− 11 = 0, у кого-то возникло бы искушение описать это уравнение как часть предмета изучения машины в данный момент. В этом смысле машина, несомненно, может быть своим собственным предметом. Его можно использовать для помощи в составлении собственных программ или для предсказания последствий изменений в его собственной структуре. Наблюдая за результатами своего собственного поведения, он может модифицировать свои собственные программы для более эффективного достижения какой-либо цели. Это возможности ближайшего будущего, а не утопические мечты.
Критика того, что машина не может иметь большого разнообразия поведения, — это просто способ сказать, что у нее не может быть большой емкости памяти. До недавнего времени емкость памяти даже в тысячу разрядов была большой редкостью.
Критика, которую мы здесь рассматриваем, часто является замаскированной формой аргументации от сознания. Обычно, если кто-то утверждает, что машина может делать одну из этих вещей, и описывает тип метода, который может использовать машина, он не произведет большого впечатления. Думается, что метод (каким бы он ни был, ибо он должен быть механическим) действительно довольно низок. Сравните скобки в утверждении Джефферсона, приведенном на с. 21.
(6) Возражение леди Лавлейс
Самая подробная информация об аналитической машине Бэббиджа содержится в мемуарах леди Лавлейс. В нем она заявляет: «Аналитическая машина не претендует на то , чтобы что- то создать. Он может делать все, что мы знаем, как ему приказать » (курсив ее). Это заявление цитирует Hartree(стр. 70), который добавляет: «Это не означает, что невозможно сконструировать электронное оборудование, которое будет «думать само за себя» или в котором, говоря биологическим языком, можно было бы установить условный рефлекс, который служил бы в качестве основы для «обучения». Возможно ли это в принципе или нет, является стимулирующим и захватывающим вопросом, на который указывают некоторые из этих недавних событий. Но, похоже, машины, построенные или спроектированные в то время, не обладали этим свойством».
В этом я полностью согласен с Хартри. Следует отметить, что он не утверждает, что машины, о которых идет речь, не обладали имуществом, а скорее то, что доказательства, имевшиеся в распоряжении леди Лавлейс, не побуждали ее верить в то, что оно у них было. Вполне возможно, что рассматриваемые машины в некотором смысле обладали этим свойством. Предположим, что некоторый автомат с дискретными состояниями обладает этим свойством. Аналитическая машина была универсальным цифровым компьютером, так что, если бы ее объем памяти и скорость были адекватными, ее можно было бы с помощью подходящего программирования заставить имитировать рассматриваемую машину. Вероятно, этот аргумент не пришел в голову ни графине, ни Бэббиджу. В любом случае они не были обязаны требовать все, что можно было потребовать.
Весь этот вопрос будет рассмотрен еще раз под заголовком обучающихся машин.
Вариант возражения леди Лавлейс гласит, что машина «никогда не может сделать ничего действительно нового». Это можно на мгновение парировать пилой: «Нет ничего нового под солнцем». Кто может быть уверен, что «первоначальная работа», которую он проделал, была не просто ростом семени, посаженного в него учением, или следствием следования общеизвестным общим принципам. Лучший вариант возражения гласит, что машина никогда не сможет «застигнуть нас врасплох». Это утверждение является более прямым вызовом, и на него можно ответить напрямую. Машины застают меня врасплох с большой частотой. Во многом это происходит потому, что я недостаточно рассчитываю, чтобы решить, чего от них ожидать, или, скорее, потому, что, хотя я и рассчитываю, делаю это торопливо, небрежно, рискуя. Возможно, я говорю себе: «Я полагаю, что напряжение здесь должно быть таким же, как и там:
Естественно, я часто ошибаюсь, и результат оказывается для меня неожиданностью, поскольку к тому времени, когда эксперимент закончен, эти допущения забываются. Эти признания делают меня открытым для лекций о моем порочном поведении, но не подвергайте сомнению мою достоверность, когда я свидетельствую о неожиданностях, которые я испытываю.
Я не ожидаю, что этот ответ заставит замолчать моего критика. Он, вероятно, скажет, что такие сюрпризы происходят из-за какого-то творческого умственного акта с моей стороны и не делают никакого кредита на машину. Это возвращает нас к аргументу сознания, а не к идее неожиданности. Это направление рассуждений мы должны считать завершенным, но, возможно, стоит отметить, что оценка чего-либо как удивительного требует такого же «творческого умственного акта», независимо от того, исходит ли неожиданное событие от человека, книги, машины или чего-то еще. еще.
Мнение о том, что машины не могут преподносить сюрпризы, объясняется, я полагаю, заблуждением, которому особенно подвержены философы и математики. Это допущение, что как только факт представлен уму, все следствия этого факта возникают в уме одновременно с ним. Это очень полезное допущение во многих обстоятельствах, но слишком легко забывается, что оно ложно. Естественным последствием этого является предположение, что нет никакой ценности в простом выводе следствий из данных и общих принципов.
(7) Аргумент от непрерывности в нервной системе
Нервная система, конечно, не машина с дискретными состояниями. Небольшая ошибка в информации о величине нервного импульса, воздействующего на нейрон, может иметь большое значение для величины исходящего импульса. Можно возразить, что если это так, то нельзя ожидать, что можно будет имитировать поведение нервной системы с помощью системы с дискретным состоянием.
Это правда, что машина с дискретными состояниями должна отличаться от машины непрерывного действия. Но если придерживаться условий игры в имитацию, то следователь не сможет воспользоваться этой разницей. Положение можно прояснить, если рассмотреть какую-нибудь другую более простую непрерывную машину. Дифференциальный анализатор подойдет очень хорошо. (Дифференциальный анализатор — это машина определенного типа, не относящаяся к типу с дискретным состоянием, используемая для некоторых видов вычислений.) Некоторые из них предоставляют свои ответы в типизированной форме и поэтому подходят для участия в игре. Цифровой компьютер не сможет точно предсказать, какие ответы даст дифференциальный анализатор на задачу, но он вполне способен дать правильный ответ. Например, если попросить указать значение π(на самом деле около 3,1416) разумно было бы выбирать наугад между значениями 3,12, 3,13, 3,14, 3,15, 3,16 с вероятностями 0,05, 0,15, 0,55, 0,19, 0,06 (скажем). В этих условиях следователю будет очень трудно отличить дифференциальный анализатор от цифрового компьютера.
(8) Аргумент от неформального поведения
Невозможно создать набор правил, описывающих, что должен делать человек при каждом мыслимом наборе обстоятельств. Например, у человека может быть правило: останавливаться, когда видишь красный свет светофора, и ехать, если видишь зеленый, но что, если по какой-то ошибке оба сигнала появляются вместе? Возможно, кто-то решит, что безопаснее всего остановиться. Но впоследствии из этого решения вполне могут возникнуть дополнительные трудности. Попытка разработать правила поведения, охватывающие все возможные ситуации, даже возникающие в результате светофора, представляется невозможной. Со всем этим я согласен.
Отсюда утверждается, что мы не можем быть машинами. Я попытаюсь воспроизвести этот аргумент, но боюсь, что вряд ли смогу передать его правильно. Кажется, что-то вроде этого работает. «Если бы у каждого человека был определенный набор правил поведения, регулирующих его жизнь, он был бы не лучше машины. Но таких правил нет, поэтому люди не могут быть машинами». Нераспределенная середина бросается в глаза. Я не думаю, что аргумент когда-либо формулировался именно так, но я считаю, что этот аргумент тем не менее используется. Однако может возникнуть определенная путаница между «правилами поведения» и «законами поведения», чтобы затуманить проблему. Под «правилами поведения» я подразумеваю такие предписания, как «Остановись, если увидишь красный свет», на которые можно действовать и которые можно осознавать. Под «законами поведения» я подразумеваю законы природы применительно к человеческому телу, такие как «если его ущипнуть, он завизжит». Если мы заменим «законами поведения, регулирующими его жизнь» на «законы поведения, которыми он регулирует свою жизнь» в приведенном аргументе, то нераспределенная середина перестанет быть непреодолимой. Ибо мы считаем, что верно не только то, что регулирование законами поведения подразумевает существование некоторого рода машины (хотя и не обязательно машины с дискретными состояниями), но, наоборот, существование такой машины подразумевает регулирование такими законами. Однако мы не можем так легко убедиться в отсутствии полных законов поведения, как полных правил поведения. Единственный известный нам способ найти такие законы — это научное наблюдение, и мы, конечно же, не знаем обстоятельств, при которых мы могли бы сказать: «Мы искали достаточно». Таких законов нет». Ибо мы считаем, что верно не только то, что регулирование законами поведения подразумевает существование некоторого рода машины (хотя и не обязательно машины с дискретными состояниями), но, наоборот, существование такой машины подразумевает регулирование такими законами. Однако мы не можем так легко убедиться в отсутствии полных законов поведения, как полных правил поведения. Единственный известный нам способ найти такие законы — это научное наблюдение, и мы, конечно же, не знаем обстоятельств, при которых мы могли бы сказать: «Мы искали достаточно». Таких законов нет». Ибо мы считаем, что верно не только то, что регулирование законами поведения подразумевает существование некоторого рода машины (хотя и не обязательно машины с дискретными состояниями), но, наоборот, существование такой машины подразумевает регулирование такими законами. Однако мы не можем так легко убедиться в отсутствии полных законов поведения, как полных правил поведения. Единственный известный нам способ найти такие законы — это научное наблюдение, и мы, конечно же, не знаем обстоятельств, при которых мы могли бы сказать: «Мы искали достаточно». Таких законов нет». мы не можем так же легко убедиться в отсутствии полных законов поведения, как полных правил поведения. Единственный известный нам способ найти такие законы — это научное наблюдение, и мы, конечно же, не знаем обстоятельств, при которых мы могли бы сказать: «Мы искали достаточно». Таких законов нет». мы не можем так же легко убедиться в отсутствии полных законов поведения, как полных правил поведения. Единственный известный нам способ найти такие законы — это научное наблюдение, и мы, конечно же, не знаем обстоятельств, при которых мы могли бы сказать: «Мы искали достаточно». Таких законов нет».
Мы можем более убедительно продемонстрировать, что любое такое заявление было бы необоснованным. Предположим, мы могли бы быть уверены, что найдем такие законы, если бы они существовали. Тогда, учитывая машину с дискретными состояниями, несомненно, можно было бы обнаружить путем наблюдения за ней достаточно, чтобы предсказать ее будущее поведение, и это в течение разумного времени, скажем, тысячи лет. Но, похоже, это не так. Я установил на манчестерском компьютере небольшую программу, использующую всего 1000 единиц памяти, в результате чего машина, снабженная одним шестнадцатизначным числом, отвечает другим в течение двух секунд. Я бы бросил вызов любому, кто узнает из этих ответов достаточно о программе, чтобы быть в состоянии предсказать любые ответы на непроверенные значения.
(9) Аргумент экстрасенсорного восприятия
Я предполагаю, что читатель знаком с идеей экстрасенсорного восприятия и значением четырех его элементов, а именно. телепатия, ясновидение, предвидение и психокинез. Эти тревожные явления, кажется, опровергают все наши обычные научные представления. Как бы нам хотелось дискредитировать их! К сожалению, статистических данных, по крайней мере, в отношении телепатии, очень много. Очень трудно перестроить свои идеи так, чтобы они соответствовали этим новым фактам. После того, как вы их приняли, поверить в привидения и привидения не так уж и сложно. Представление о том, что наши тела движутся просто по известным законам физики вместе с некоторыми другими, еще не открытыми, но в чем-то похожими, уйдет одной из первых.
Этот аргумент, на мой взгляд, довольно сильный. В ответ можно сказать, что многие научные теории, похоже, остаются применимыми на практике, несмотря на то, что они противоречат экстрасенсорному восприятию; что на самом деле можно очень хорошо поладить, если забыть об этом. Это довольно холодное утешение, и кто-то опасается, что мышление — это как раз тот феномен, для которого экстрасенсорное восприятие может быть особенно важным.
Более конкретный аргумент, основанный на экстрасенсорном восприятии, мог бы звучать так: «Давайте сыграем в игру с имитацией, используя в качестве свидетелей человека, который хорош в качестве телепатического приемника, и цифровой компьютер. Следователь может задавать такие вопросы, как «Какой масти карта в моей правой руке?» Человек с помощью телепатии или ясновидения дает правильный ответ 130 раз из 400 карт. Машина может только угадывать случайным образом и, возможно, правильно выдает 104, поэтому следователь делает правильную идентификацию». Здесь открывается интересная возможность. Предположим, что цифровой компьютер содержит генератор случайных чисел. Тогда будет естественно использовать это, чтобы решить, какой ответ дать. Но тогда генератор случайных чисел будет подчиняться психокинетическим силам следователя. Возможно, этот психокинез может привести к тому, что машина угадает чаще, чем можно было бы ожидать при расчете вероятности, так что следователь все равно не сможет правильно идентифицировать. С другой стороны, он мог бы угадать правильно без всякого вопроса, с помощью ясновидения. С ESP может случиться что угодно.
Если телепатия будет допущена, придется ужесточить наш тест. Ситуацию можно было бы рассматривать как аналогичную той, которая имела бы место, если бы следователь разговаривал сам с собой, а один из участников слушал бы ухом к стене. Помещение участников в «защищенную от телепатии комнату» удовлетворило бы всем требованиям.
7. Обучающиеся машины
Читатель, должно быть, догадался, что у меня нет убедительных аргументов положительного характера в поддержку моих взглядов. Если бы я знал, я бы не стал так стараться указывать на ошибочность противоположных взглядов. Те доказательства, которые у меня есть, я сейчас приведу.
Вернемся ненадолго к возражению леди Лавлейс, утверждавшему, что машина может делать только то, что мы ей приказываем. Можно сказать, что человек может «внедрить» идею в машину, и она до определенной степени отреагирует, а затем затихнет, как струна фортепиано, на которую ударяют молоточком. Другим сравнением может быть атомный котел меньше критического размера: введенная идея должна соответствовать нейтрону, входящему в котел извне. Каждый такой нейтрон будет вызывать определенное возмущение, которое со временем угаснет. Если, однако, размер котла достаточно увеличить, возмущение, вызванное таким падающим нейтроном, весьма вероятно, будет продолжаться и увеличиваться до тех пор, пока весь котел не будет разрушен. Есть ли соответствующее явление для разума и для машин? Похоже, что для человеческого разума есть один.т.е. соответствовать в этой аналогии сваям докритического размера. Идея, представленная такому уму, в среднем вызовет менее одной идеи в ответ. Небольшая часть является сверхкритической. Представленная такому уму идея может породить целую «теорию», состоящую из вторичных, третичных и более отдаленных идей. Ум животных, кажется, очень определенно субкритичен. Придерживаясь этой аналогии, мы спрашиваем: «Можно ли сделать машину сверхкритической?»
Полезна также аналогия с луковой шелухой. При рассмотрении функций ума или мозга мы находим определенные операции, которые мы можем объяснить чисто механическими терминами. Мы говорим, что это не соответствует реальному уму: это своего рода кожа, которую мы должны содрать, если хотим найти настоящий ум. Но затем в том, что осталось, мы находим еще одну кожу, которую нужно снять, и так далее. Действуя таким образом, придем ли мы когда-нибудь к «настоящему» уму или в конце концов придем к коже, в которой ничего нет? В последнем случае весь ум механический. (Однако это не будет машина с дискретными состояниями. Мы обсуждали это.)
Последние два абзаца не претендуют на убедительность аргументов. Скорее их следует охарактеризовать как «рассказы, направленные на создание веры».
Единственной действительно удовлетворительной поддержкой точки зрения, выраженной в начале § 6, будет та, которая будет обеспечена ожиданием конца века, а затем выполнением описанного эксперимента. Но что мы можем сказать в то же время? Какие шаги нужно предпринять сейчас, чтобы эксперимент удался?
Как я уже объяснял, проблема в основном в программировании. Потребуется также технический прогресс, но маловероятно, что этого будет недостаточно для удовлетворения требований. Оценки емкости памяти мозга варьируются от 10 10 до 10 15 двоичных цифр. Я склоняюсь к низшим значениям и полагаю, что лишь очень небольшая часть используется для высших типов мышления. Большая его часть, вероятно, используется для сохранения зрительных впечатлений. Я был бы удивлен, если бы для удовлетворительной игры в имитацию требовалось больше 10 9 , по крайней мере против слепого. (Примечание. Емкость Британской энциклопедии, 11-е издание, составляет 2 × 10 9 .) Объем памяти 10 7было бы вполне осуществимой возможностью даже с помощью современных технологий. Наверное, вообще не нужно повышать скорость работы машин. Части современных машин, которые можно рассматривать как аналоги нервных клеток, работают примерно в тысячу раз быстрее, чем последние. Это должно обеспечить «запас прочности», который может компенсировать потери скорости, возникающие во многих отношениях. Наша проблема состоит в том, чтобы выяснить, как запрограммировать эти машины для игры. При моем нынешнем темпе работы я произвожу около тысячи цифр программы в день, так что около шестидесяти рабочих, постоянно работающих в течение пятидесяти лет, могли бы выполнить эту работу, если бы ничего не попало в корзину для бумаг. Желателен какой-то более быстрый метод.
Пытаясь имитировать взрослый человеческий разум, мы вынуждены много думать о процессе, который привел его к тому состоянию, в котором он находится. Мы можем заметить три компонента:
Начальное состояние ума, скажем, при рождении,
Воспитание, которому оно подверглось,
Другой опыт, который нельзя назвать образованием, которому он подвергся.
Вместо того, чтобы пытаться создать программу, имитирующую взрослый разум, почему бы не попытаться создать программу, моделирующую сознание ребенка? Если бы это затем было подвергнуто соответствующему курсу обучения, можно было бы получить мозг взрослого человека. Предположительно, детский мозг — это что-то вроде записной книжки, которую покупают у канцелярских продавцов. Довольно маленький механизм и много чистых листов. (С нашей точки зрения, механизм и письмо — почти синонимы.) Мы надеемся, что в детском мозгу так мало механизмов, что что-то подобное можно легко запрограммировать. Мы можем предположить, что объем работы в области образования в первом приближении почти такой же, как и для человеческого ребенка.
Таким образом, мы разделили нашу задачу на две части. Детская программа и образовательный процесс. Эти двое остаются очень тесно связанными. Мы не можем рассчитывать найти хорошего ребенка-машину с первой попытки. Нужно поэкспериментировать с обучением одной такой машины и посмотреть, насколько хорошо она обучается. Затем можно попробовать другой и посмотреть, лучше он или хуже. Существует очевидная связь между этим процессом и эволюцией.
| Структура дочерней машины | = Наследственный материал |
| Изменения " " | = Мутации |
| Естественный отбор | = Суждение экспериментатора |
Можно, однако, надеяться, что этот процесс будет более быстрым, чем эволюция. Выживание наиболее приспособленных — медленный метод измерения преимуществ. Экспериментатор, используя интеллект, должен быть в состоянии ускорить его. Не менее важен тот факт, что он не ограничивается случайными мутациями. Если он может проследить причину некоторой слабости, он, вероятно, сможет придумать вид мутации, которая улучшит ее.
Невозможно применить к машине точно такой же процесс обучения, как к обычному ребенку. Например, у него не будет ножек, чтобы его нельзя было попросить выйти и наполнить ведро с углем. Возможно, у него не было глаз. Но как бы хорошо эти недостатки ни преодолевались хитрой инженерией, нельзя было отправить это существо в школу без того, чтобы другие дети не высмеивали его. Это должно быть дано некоторое обучение. Нам не нужно слишком беспокоиться о ногах, глазах и т. д. Пример мисс Хелен Келлер показывает, что образование может иметь место при условии, что общение в обоих направлениях между учителем и учеником может происходить теми или иными средствами.
Обычно мы связываем наказания и поощрения с процессом обучения. Некоторые простые дочерние машины могут быть сконструированы или запрограммированы по такому принципу. Машина должна быть сконструирована таким образом, чтобы события, которые непосредственно предшествовали возникновению сигнала-наказания, вряд ли повторились бы, в то время как сигнал-награда увеличивал вероятность повторения событий, которые к нему привели. Эти определения не предполагают никаких чувств со стороны машины. Я провел несколько экспериментов с одним из таких детей-машин, и мне удалось обучить его нескольким вещам, но метод обучения был слишком неортодоксальным, чтобы эксперимент можно было считать действительно успешным.
Использование наказаний и поощрений в лучшем случае может быть частью учебного процесса. Грубо говоря, если у учителя нет других средств связи с учеником, количество информации, которое может до него дойти, не превышает общего количества применяемых поощрений и наказаний. К тому времени, когда ребенок научится повторять «Касабьянку», он, вероятно, действительно почувствовал бы себя очень болезненным, если бы текст можно было обнаружить только с помощью метода «Двадцати вопросов», где каждое «НЕТ» принимало форму удара. Поэтому необходимо иметь какие-то другие «неэмоциональные» каналы связи. Если они доступны, можно с помощью наказаний и поощрений научить машину подчиняться приказам, отдаваемым на каком-либо языке, напримерсимволический язык. Эти приказы должны передаваться по «неэмоциональным» каналам. Использование этого языка значительно уменьшит количество требуемых наказаний и поощрений.
Мнения могут различаться относительно сложности, подходящей для дочерней машины. Можно попытаться сделать его как можно более простым в соответствии с общими принципами. В качестве альтернативы можно иметь «встроенную» полную систему логического вывода. 1 В последнем случае магазин был бы в основном занят определениями и предложениями. Предложения будут иметь различные виды статуса, напримерхорошо установленные факты, догадки, математически доказанные теоремы, утверждения, сделанные авторитетом, выражения, имеющие логическую форму предложения, но не значение убеждения. Некоторые предложения могут быть описаны как «императивы». Машина должна быть сконструирована таким образом, чтобы, как только императив классифицировался как «устоявшийся», автоматически выполнялось соответствующее действие. Чтобы проиллюстрировать это, предположим, что учитель говорит машине: «Сделай домашнее задание сейчас». Это может привести к тому, что фраза «Учитель говорит: «Сделай домашнее задание сейчас»» будет включена в число хорошо установленных фактов. Другим таким фактом может быть,
«Все, что говорит учитель, правда». Их сочетание может в конечном итоге привести к тому, что императив «Сделай домашнюю работу сейчас» будет включен в число хорошо установленных фактов, и это, благодаря конструкции машины, будет означать, что домашняя работа действительно начнется, но эффект будет очень удовлетворительным. . Процессы вывода, используемые машиной, не обязательно должны удовлетворять самых требовательных логиков. Например, может не быть иерархии типов. Но это не должно означать, что будут возникать ошибки типа, точно так же, как мы не обречены падать с незащищенных скал. Подходящие императивы (выраженные в рамках систем, не входящие в состав правилсистемы), такие как «Не используйте класс, если он не является подклассом того, который был упомянут учителем», могут иметь тот же эффект, что и «Не подходите слишком близко к краю».
Императивы, которым может подчиняться машина, не имеющая конечностей, должны носить скорее интеллектуальный характер, как в приведенном выше примере (выполнение домашнего задания). Важными среди таких императивов будут те, которые регулируют порядок применения правил рассматриваемой логической системы. Ибо на каждом этапе использования логической системы существует очень большое количество альтернативных шагов, каждый из которых разрешено применять, поскольку это касается подчинения правилам логической системы. Этот выбор определяет разницу между блестящим и рассудительным мыслителем, а не разницу между здравомыслящим и ошибочным. Утверждения, ведущие к императивам такого рода, могут быть такими: «Когда упоминается Сократ, используйте силлогизм Варвары» или «Если доказано, что один метод быстрее другого, не используйте более медленный метод». Некоторые из них могут быть «даны властью», но другие могут быть произведены самой машиной.например , с помощью научной индукции.
Некоторым читателям идея обучающейся машины может показаться парадоксальной. Как могут измениться правила эксплуатации машины? Они должны полностью описывать, как машина будет реагировать, какой бы ни была ее история, какие бы изменения она ни претерпела. Таким образом, правила практически не зависят от времени. Это совершенно верно. Объяснение парадокса состоит в том, что правила, которые изменяются в процессе обучения, носят гораздо менее претенциозный характер и претендуют лишь на эфемерную действительность. Читатель может провести параллель с Конституцией Соединенных Штатов.
Важной особенностью обучающейся машины является то, что ее учитель часто будет в значительной степени не знать, что происходит внутри, хотя он все же может в некоторой степени предсказать поведение своего ученика. В наибольшей степени это должно относиться к последующему образованию машины, возникающей из дочерней машины с хорошо испытанной конструкцией (или программой). Это явно контрастирует с обычной процедурой использования машины для выполнения вычислений: в этом случае цель состоит в том, чтобы иметь четкую мысленную картину состояния машины в каждый момент вычислений. Эта цель может быть достигнута только с борьбой. Представление о том, что «машина может делать только то, что мы знаем, как ей приказать» 1 .выглядит странно на фоне этого. Большинство программ, которые мы можем поместить в машину, приведут к тому, что она будет делать что-то, что мы вообще не можем понять, или что мы рассматриваем как совершенно случайное поведение. Интеллектуальное поведение, по-видимому, состоит в отходе от полностью дисциплинированного поведения, связанного с вычислениями, но в довольно незначительном отклонении, которое не приводит к случайному поведению или бессмысленным повторяющимся циклам. Другим важным результатом подготовки нашей машины к ее участию в имитационной игре в процессе обучения и обучения является то, что «человеческая склонность к ошибкам», вероятно, будет опущена довольно естественным образом, т . е.без специальной «тренировки». (Читатель должен согласовать это с точкой зрения на стр. 24, 25.) Наученные процессы не дают стопроцентного результата. уверенность в результате; если бы они это сделали, они не могли бы быть разучившимися.
Вероятно, было бы целесообразно включить в обучающую машину случайный элемент (см. стр. 438). Случайный элемент весьма полезен, когда мы ищем решение какой-то проблемы. Предположим, например, что мы хотим найти число от 50 до 200, равное квадрату суммы его цифр, мы можем начать с 51, затем попробовать 52 и продолжать, пока не получим число, которое сработает. В качестве альтернативы мы можем выбирать числа случайным образом, пока не получим хорошее. Преимущество этого метода в том, что нет необходимости отслеживать значения, которые были опробованы, но недостаток в том, что одно и то же можно попробовать дважды, но это не очень важно, если есть несколько решений. Недостаток систематического метода состоит в том, что может существовать огромный блок без каких-либо решений в области, которую необходимо исследовать в первую очередь. Теперь процесс обучения можно рассматривать как поиск формы поведения, которая удовлетворит учителя (или какой-либо другой критерий). Поскольку существует, вероятно, очень большое количество удовлетворительных решений, случайный метод кажется лучше, чем систематический. Следует заметить, что он используется в аналогичном процессе эволюции. Но там систематический метод невозможен. Как можно отследить различные генетические комбинации, которые были опробованы, чтобы избежать их повторения?
Мы можем надеяться, что со временем машины будут конкурировать с людьми во всех чисто интеллектуальных областях. Но с каких лучше начать? Даже это трудное решение. Многие люди думают, что лучше всего подойдет очень абстрактная деятельность, например, игра в шахматы. Можно также утверждать, что лучше всего снабдить машину лучшими органами чувств, которые можно купить за деньги, а затем научить ее понимать и говорить по-английски. Этот процесс может следовать обычному обучению ребенка. Вещи будут указаны и названы и т. д. Опять же, я не знаю, какой ответ правильный, но я думаю, что следует попробовать оба подхода.
Мы можем видеть только небольшое расстояние вперед, но мы видим там много того, что нужно сделать.
1 Возможно, эта точка зрения является еретической. Святой Фома Аквинский ( « Summa Theologica », цитируется Бертраном Расселом, стр. 480) утверждает, что Бог не может сделать человека без души. Но это может быть не реальным ограничением Его сил, а лишь следствием того факта, что человеческие души бессмертны, а потому нерушимы.
1 Имена авторов, выделенные курсивом, относятся к библиографии.
1 Или, скорее, «запрограммировано» для нашего ребенка-машины будет запрограммировано в цифровом компьютере. Но логическую систему изучать не придется.
Комментариев нет:
Отправить комментарий