ЧЕЛОВЕК И КОМПЬЮТЕР: ГОНКИ НА ВЫЖИВАНИЕ
Исход предрешен - и не в нашу пользу, считает молодой киевский ученый
'Click here to open new window';}" onmouseover="if(this.resized) this.style.cursor='hand';" onclick="if(this.resized) {window.open('http://totalwars.ru/foto/thumbs/5052069999387F1.jpg');}" />
Хорошая новость для богатых ценителей комфорта; теперь пресловутый «умный дом» - централизованная система управления домашней электроникой — может устанавливаться не в отдельно взятой квартире, а в целом огромном небоскребе. Обойдется в копеечку, зато вы сможете ни в чем себе не отказывать. Скажем, заказать по дороге домой по мобильнику ванну нужной температуры...
ДА ЧТО ТАМ ВАННА - это пустяки! Куда важнее обеспечение безопасности. В нашем «умном» супердоме наконец-то можно не бояться пожара. Только потянуло дымком — в его компьютерном «мозгу» включается соответствующая программа. Вырубается электричество и вентиляция, врубается система пожаротушения, аварийное и эвакуационное освещение. Лифты опускаются на первый этаж, где стоят открытыми. Что еще? Ах да, разблокируются двери — входные и внутренние, ограничивающие доступ в ту или иную часть здания. И нет проблем!
Но это делает дом беззащитным перед опасностью совсем другого рода — вносят ложку дегтя в эту красоту эксперты. Вдруг его захотят захватить террористы? Ведь достаточно зажечь газету перед противопожарным датчиком, как волшебная дверь раскроется... Чувствуете, как набирает обороты сюжет кинотрйллера? В кино такие триллеры кончаются благополучно, надо думать, и в жизни разработчики «умных домов» что-нибудь придумают. Тогда что на очереди — «умный город»?
А почему бы и нет? Компьютеризация сейчас развивается невиданными темпами. Есть ли этому предел? Молодой киевский ученый Богдан РУДЫЙ уверен: все это закончится плохо, так как человечество попадет в полную зависимость от компьютера и вообще от автоматики. А случится это не в таком уж и в далеком будущем. Суперкомпьютер — властелин мира, воплощенный кошмар из какого-нибудь фантастического романа середины прошлого века? «Как вы это представляете, Богдан? — спросила я своего собеседника. — Эдакий одушевленный электронный робот на троне? Программисты и сейчас говорят, что у компьютера есть что-то вроде сознания, такие он коники выкидывает...»
— Я сам программист, и у меня тоже складывается такое впечатление. Но я ему стараюсь не поддаваться: компьютер — машина, обыкновенная железяка. Просто в ней уже такой уровень сложности, что многие механизмы, обусловливающие ее «поведение», мы проследить не в состоянии, потому она и выглядит, как живая. Это у станка просто, нажал в одном месте — немедленная реакция в другом; структура жесткая. А компьютер и робот — второй уровень, тип автоматов, отличающийся тем, что имеет, кроме неизменной (haidware), еще и изменяемую (software) составляющую, — вторая приводит к задержке реакций, к «обдумыванию» действий.
ИГРА В ОДНИ ВОРОТА
— Вот почему эта «железяка» обыграла лучшего шахматиста мира?
— Сегодня компьютеры уже вышли на уровень творчества. Ведь Deep Blue фирмы IBM, игравший с Каспаровым, генерировал, по сути, «творил» новую партию, ранее не существовавшую последовательность ходов. Партию компьютера принципиально не отличишь от партии человека, значит — это творчество.
— Кстати, и у нас в Институте кибернетики уже есть суперкомпьютер. Говорят, довольно точно погоду предсказывает.
— Как раз компьютеры и позволяют сделать следующий шаг в прогнозировании, это совершенно нормально и естественно. Чем мощнее они будут становиться, тем точнее предсказывать, поскольку будут учитываться больше составляющих анализируемой системы. Если продолжить эту тенденцию на человека, можно предположить следующее: скорее всего, практически все аспекты человеческих способностей будут разгаданы, смоделированы и перенесены в машину. Компьютер будет почти полностью понимать человека. Ведь компьютер, в принципе, есть продолжение человеческого ума, он развился от простейших форм до теперешних и будет развиваться дальше. Я бы лучше использовал понятие «робот/автомат», оно шире и включает вообще всю автоматику (машины), все виды алгоритмов (экономические, политические, мыслительные, творческие и т. д.) и «функциональных» структур; закон — для меня тоже робот/автомат!
Тенденция развития человечества однозначна: ускоренная роботизация. Они заменили нас и наших лошадей тут и там, производительность труда возросла с 1900-го по 2000 год в среднем в 40 раз. Все идет к тому, что робот будет без участия человека выращивать для нас виноград, собирать урожай, выжимать сок, вставлять трубочку и подавать на стол! Посмотрите: раньше каждый должен был сам сеять хлеб, чтобы в конце концов испечь свою буханку, на один продукт уходила вся жизнь. Потом человек додумался распределить виды деятельности — ты занимаешься одним, я другим, потом мы обмениваемся. То есть, он придумал некий алгоритм, который вынес, так сказать, за пределы себя — и сразу на порядок увеличилась производительность. Это и был первый этап роботизации. Видите, алгоритм оказался благодетелем. Можно сказать, наша жизнь с самого начала была устроена «по принципу компьютера». Считаю вполне правдоподобным, что вся структура Вселенной составляет как бы один большой автомат. Но тогда за ним должен стоять «программист» — еще не было случая, чтобы алгоритмы высокого уровня не были продолжением интеллекта.
ВСЕ ПОД КОНТРОЛЕМ
— Но если так, то этот искусственный интеллект может стать его конкурентом? То есть захватит власть...
— Очень возможно. Пока все выглядит совершенно безобидно — разве можно ждать опасности от какого-нибудь кухонного миксера? Это автомат низкого уровня, мы его легко контролируем. Но тенденция нарастает и дойдет до уровня, который сейчас даже трудно предположить. Искусственный интеллект будет единым и сам будет все контролировать. Или почти все — в любой системе есть ограничения.
Пример? Хотя бы правонарушения — сейчас человек может поступить противозаконно, однако его обнаруживают и принуждают возвратиться в «норму».
Но рано или поздно период отслеживания будет таким коротким, что до правонарушений просто не дойдет — роботизация не даст их совершить. Уже сейчас можно по мобильному телефону отслеживать, где кто находится — есть данные, что в некоторых развитых странах до 70% граждан контролируются таким образом. Можно проследить, что, когда и за чей счет вы покупали, там, где использовали свои кредитные карточки. Теперь представьте, что будут введены единые карточки — как паспорт, пропуск, ключ от квартиры — и круг ваших действий, поддающихся внешнему контролю, расширится. Будет и единая система видеонаблюдения — она уже сейчас существует во многих супермаркетах и фирмах.
— Тотальный контроль?
— Конечно, к тому все идет! Практически это не составит труда — наблюдать-то будут роботы, а их можно штамповать до бесконечности. Камеры слежения и сейчас достаточно дешевы, а когда их начнут выпускать миллионами, то вообще будут стоить копейки! Не думаю, что большинство людей испытают от этого какие-то особые неудобства. Но существуют и другие, с которыми это большинство, как правило, не считается. И если довести контроль до максимума (что, скорее всего, будет сделано), многие люди не смогут себя реализовывать в таком мире. Некоторые вещи будут просто отсечены — скажем, свобода слова. Если сейчас ты можешь написать непредсказуемую статью или организовать пресс-конференцию, тогда такой непредсказуемости не будет. Контролеры мигом «обзвонят» друг друга (причем не люди, а автоматы), и все будет заблокировано. Такой-то параметр стал опасен для системы, и его исключают. Снизится твоя непредсказуемость, индивидуальность, а ведь «я» — это непредсказуемость.
— Кто же заложил в компьютер данные, что этот параметр опасен? Партия? Тиран? Или сам компьютер?
— Система отлажена, в нее не может вклиниться никакой тиран. Большинство убеждено, что живет в условиях демократии, контролируя этого суперробота. Но ведь тот постоянно совершенствуется, втягивая в себя, как пылесос, все новые и новые наработки. Скажем, вы изобрели новый эффективный способ управления фирмой, а вас уволили, «оставив вас» на фирме в виде вашего интеллекта, способа управления. Вам же дали хорошую пенсию и вытеснили в сферу «ухода за цветами». Суперкомпьютер со всем будет так поступать, находя все новые способы самоусовершенствования — все они для него «программы». Процесс еще контролируется людьми, но все меньше и меньше. Роботизация все ускоряется, и на каком-то этапе наш суперробот быстро обгонит своих контролеров в основных аспектах интеллектуальности — вспомните шахматы. Он будет нас контролировать, а не мы его.
Мне это кажется неотвратимым — хотя бы потому, что никто не будет бороться с соблазном увеличить меру автоматизации, поскольку с ней растет наше богатство и комфорт. А еще потому, что автоматизируется сам процесс автоматизации, потом будет автоматизироваться процесс автоматизации автоматизации и т.д. Посмотрите: если когда-то продукты продавались на простых лотках, теперь появились супермаркеты и фирмы, которые эти супермаркеты прямо-таки штампуют. Рано или поздно это тоже войдет в систему единого робота планеты. Думаю, визуально он будет не централизован, а распределен своими «ядрами» по планете, по квартирам. Объединение отдельных ядер единой сетью (www?) делает их на порядок мощнее, чем просто сумма элементов. Объединение роботов — это новый робот, робот планеты.
— Так что, человечество идет к полному вырождению?
— Большинству так не будет казаться, но меньшинство, очевидно, пострадает. Я бы даже сказал так: пострадает замысел о человеке — если Вселенная действительно создана каким-то Сверхинтеллектом, следующим своему плану по отношению к создаваемым структурам и подструктурам.
СПРАВКА «KB»
РУДЫЙ Богдан Анатольевич. Выпускник кафедры микроэлектроники Национального технического университета КПИ. Сотрудник Киевского национального университета им. Тараса Шевченко. Автор компьютерной программы «Библии мира».
Наталья КУРОЛЕНКО
Киевские ведомости
27.01.2007
+ городские удобства. Пережили голод, переживем и изобилие 
