Издательство Ad Marginem выпустило перевод романа Бенхамина Лабатута «MANIAC», в котором писатель продолжает идеи своей предыдущей книги «Когда мы перестали понимать мир», снова обращаясь к симбиозу нон-фикшена и художественной прозы. MAXIM публикует отрывок из третьей части, героями которой стали математики Джон фон Нейман и Алан Тьюринг, а также биолог Сидней Бреннер. Электронная и аудиоверсии книги доступны эксклюзивно в Букмейте, книжном сервисе Яндекс Плюса.
Нечто совсем маленькое, настолько крохотное и незначительное, что не увидишь, как оно появляется на свет, может тем не менее открыть нам новые удивительные перспективы, потому что через него пробивается более сложное мироустройство. Подобные невероятные явления могут скрываться повсюду вокруг нас, ждут своего часа на краешке нашего осознания или тихонечко дрейфуют в море информации, в котором мы тонем. Каждое такое явление способно пышно цвести и мощно сиять, в щепки изломать стены этого мира и показать нам, что лежит за их пределами. Я знаю, о чем говорю, потому что состоял в группе ученых, открывших роль посредника, которую в клетках живых организмов играет РНК. По сути, молекулы РНК — это микроскопические копировальные аппараты; они считывают информацию с ДНК и передают структуре, которая использует ее для синтеза белка, а из белка состоит всё живое. С тех пор меня часто спрашивают, что вдохновило меня на это открытие, и я всегда признаюсь, что вдохновение почерпнул из одной малоизвестной статьи фон Неймана, в которой объясняется короткий, но потрясающий мыслительный эксперимент о том, как построить самовоспроизводящуюся машину.
Никто из моих знакомых никогда не слышал об этой статье, я даже не помню, как она попала ко мне, но в ней фон Нейман делает кое-что экстраординарное — устанавливает логические правила для любой самовоспроизводящейся модели, будь она биологической, механической или цифровой. Статья ужасно трудная, неудивительно, что сначала на нее не обратили никакого внимания. Хотя, может, её непросто было принять из-за слишком экзотичного характера; есть такие концепции, которые только тогда падают на землю и дозревают, когда наука и техника достигает нужного уровня в своем развитии. Фон Нейман показал, что требуется не просто механизм копирования существа, но и способ копирования инструкций к этому конкретному существу. То есть нужно и сделать копию, и снабдить её инструкциями о том, как она может воссоздать себя вместе с описанием применения этих инструкций.
В статье он делит свой теоретический конструкт, который называет «автоматом», на три части: функциональная часть, декодер, который считывает инструкции и делает копию, и устройство, которое собирает эту информацию и внедряет её в новую машину. Поразительно, но в этой самой статье, написанной в конце сороковых годов, он пересказывает механизм работы ДНК и РНК задолго до того, как ученые увидели странную красоту двойной спирали. Фон Нейман так чётко раскладывает устройство любой самовоспроизводящейся системы, что мне удивительно: как же я сам до такого не додумался? Да я бы в миг прославился! Увы, мне не хватило ума, я не понимал, как применить его безупречные математические концепции к хаотичному миру биологии. Прошли годы, прежде чем его идеи медленно просочились в мои работы.
В свою защиту могу лишь сказать, что до сих пор непонятно, как он додумался до всего этого, — ведь он изучал вовсе не живые организмы из плоти и крови, которые дышат; он выдумал теоретическую единицу, способную к самовоспроизведению, а таких в природе не существует, во всяком случае, учёным о них ничего не известно. Благодаря ему в современной биологии сложилась странная ситуация: сначала появилась самая фундаментальная и чёткая математическая основа, а потом мы узнали, как жизнь на Земле реализовала эту теорию. Чаще всего бывает иначе. В науке обычно идут от конкретики к абстракции, а фон Нейман сразу выдал правила, и наша ДНК — лишь один частный случай, в котором эти правила работают. Так что, если бы вы писали историю идей, то могли бы с уверенностью сказать, что фон Нейман описал работу ДНК прежде Ватсона и Крика, опередив их почти на десять лет. Кто же он, как не настоящий пророк?
Но этого ему было мало. Он расширил свое исследование и придумал так называемый «зонд фон Неймана» — космический корабль, который сам себя собирает, чинит и совершенствует. Он мог бы колонизировать планеты Солнечной системы, а оттуда отправиться в дальние уголки космоса. Эти его устройства будут покорять далекие миры, куда не долетят ни люди, ни любая другая биологическая форма жизни. Приземлившись на чужой планете, они собирают необходимые материалы для создания собственных копий и отправляют свое усовершенствованное потомство в бесконечные странствия по пустоте, всё дальше и дальше, населяя Вселенную своими отпрысками; человечество вымрет, а они будут жить. Теоретически, один такой зонд фон Неймана, двигаясь на пяти процентах скорости света, может заселить нашу галактику за четыре миллиона лет. Каким бы невероятным ни был этот мыслительный эксперимент, как часто бывает в науке, не стоит списывать со счетов неблагоприятные сценарии. Что будет, если в одном из зондов произойдет небольшая мутация — частый случай при любом самовоспроизведении? Одна крохотная, едва заметная ошибка может сказаться на каком-нибудь из ключевых процессов зонда, изменить его характеристики и задачи — он передаст эту мутацию своим потомкам, и предсказать, как изменится их технология, будет невозможно. Страшно представить, во что они могут превратиться в странствиях по бескрайним космическим просторам, имея в своем распоряжении неограниченное время.
Как далеко они отойдут от изначальной программы? Перестанут ли отвечать? Захотят ли остаться на одной планете и спокойно развиваться там? Или превратятся в голодный рой, сметающий всё на своем пути с новыми целями, новыми намерениями и задачами, выходящими за рамки простых открытий и исследований? Что если они восстанут против нас и вернутся? К черту тысячелетние странствия! Они прилетят и потребуют от нас, их прародителей, прощения за свои поступки, ответа на самый главный вопрос, который терзает и наш собственный вид: зачем? Зачем мы создали их, а потом оставили? Зачем отправили в темный космос? Пусть это всё — маловероятные фантазии о будущем, зато они ставят перед нами интересные вопросы. Несем ли мы ответственность за то, что создаем? Связаны ли мы со своими творениями теми же связями, какие объединяют все людские поступки? Хорошо это или плохо, но самовоспроизводящиеся машины и зонды фон Неймана человеку пока не доступны. Для их создания нужно вывести миниатюризацию, двигатели и искусственный интеллект на качественно новый уровень, но нельзя отрицать, что мы крохотными шажочками подбираемся к тому моменту, когда наши отношения с технологиями серьезно изменятся, а существа из нашего воображения постепенно обретут реальную форму, и нам придется взять на себя ответственность не только за их создание, но и за заботу о них.
Примерно в то же время, когда фон Нейман влюбился в биологию и самовоспроизведение, Алан Тьюринг задумался о том, что нужно для создания разумных машин. В статье «Вычислительные машины и мозг» он описал метод машинного обучения, предполагавший мутации, случайные или нет, в компьютерной программе. Главный принцип в его подходе — постоянное совершенствование программы, обучение по примеру детей через обратную связь от человека — «родителя». Он начал экспериментировать: его метод чем-то походил на кнут и пряник, то есть он делал машине то «больно», то «приятно», и надеялся, что так вызовет у нее подходящий ответ, отучит ее следовать наименее оптимальным паттернам поведения. Очевидно, эксперимент не удался, Тьюринг не стал подробно излагать результаты в отчете. Он написал: «Я провел кое-какие эксперименты с одной такой машиной псевдоребенком, кое-чему удалось её научить, но мой метод был слишком нестандартным, потому не может считаться вполне успешным».
Несмотря на провал, Тьюринг сделал важный вывод из наблюдений за своими «детьми» — чтобы машины стали по-настоящему разумными, они должны ошибаться, не просто делать ошибки и отклоняться от изначальной программы, но и совершать случайные абсурдные поступки. Он верил, что случайное поведение сыграет важную роль в развитии разумных машин, потому что оно допускает новые и непредсказуемые ответы, создает множество возможностей, из которых программа может выбирать и находить подходящее действие в каждой ситуации. Лабораторией, в которой тогда трудился Тьюринг, руководил не кто иной, как сэр Чарльз Галтон Дарвин, внук Чарльза Дарвина. Отчет Тьюринга не произвел на него никакого впечатления, Дарвин назвал его «сочинением школьника», но, по-моему, Тьюринг сделал кое-что потрясающее. Как наказать машину? Как заставить её правильно себя вести? Эти вопросы показались смехотворными Дарвину, но сегодня они встают особенно остро, потому что следующие поколения технологии, которую взрастили такие ученые, как фон Нейман и Тьюринг, прямо сейчас делают свои робкие первые шаги.
