Опубликовано в Независимой Газете от 22.02.2006

Александр Нариньяни

Очень искусственный интеллект

Мы у порога нового этапа цивилизации, касающегося как всего человечества, так и каждого человека, его личности, тела, образа жизни и даже души.
Петер Грик, 'Голова-Машина', 1989 г.

Об авторе: Александр Семенович Нариньяни - генеральный директор Российского НИИ искусственного интеллекта (Москва-Новосибирск)

Будет ли машина, обладающая чувствами, машиной или уже нет?

Термин artificial intelligence (искусственный интеллект, ИИ) был предложен в 1956 году на семинаре с аналогичным названием в Станфордском университете (США). Подобное самоназвание области обозначило тот «наивный оптимизм» начального периода, когда большинству казалось, что до ИИ рукой подать. Однако пока с каждым десятилетием расстояние до цели только растет. Спустя пятьдесят лет всем ясно, что она не близка, трудностей полно, а успехи не слишком впечатляют.

Очевиден и вывод – область ИИ находится под влиянием известного «горного эффекта»: если расстояние до небольшой высоты определить несложно, поскольку она попадает в поле зрения только вблизи, то громадная вершина видна с такого удаления, что кажется гораздо меньше и ближе, чем на самом деле. Ее масштаб начинаешь представлять лучше, пройдя достаточно большую дистанцию и осознавая, что ее видимые размеры почти не изменились и оценка расстояния до нее на глаз осталась примерно той же.

Что ищем

Термин «искусственный интеллект», родившийся как название конкретной области кибернетики, быстро пошел «вширь». Споры на тему, что к этой области относить и каковы ее задачи, ведутся до сих пор и конца им не видно. Тем более что само понятие «интеллект» достаточно неоднозначно. Ясно только, что оно включает сочетание таких взаимосвязанных способностей, как: умение решать сложные творческие задачи; способность к обучению, обобщению и аналогиям; обладание собственными средствами получения информации от внешнего мира, т.е. органами восприятия (зрение, слух и т.п.).

Этот список можно расширять, но суть в первом приближении он определяет.

В качестве критерия ИИ принят тест, предложенный в начале 50-х годов Тьюрингом: «Компьютер можно считать разумным, если он способен заставить нас поверить, что мы имеем дело не с машиной, а с человеком».

Можно ли пройти тест Тьюринга? Смотря в какой области: в некоторых очень нескоро, в других – вполне реально, но тоже не завтра. Почему?

Упомянутый «горный эффект» иллюстрирует ошибку оценки в условиях прямой видимости, которой у больших задач, как правило, нет. На тему «Куда и как двигаться» дискуссий в ИИ идет не меньше, чем по поводу определения самого термина. Выделяются три основных подхода.

1. «Аппаратная аналогия»: поймем, как работает мозг, сможем создать его искусственно. Именно этот подход лег в основу нейрокибернетики и разных школ с приставкой «нейро».

2. «Аналогия поведения»: мозг слишком сложен и до его познания далеко; наиболее прямой путь к ИИ – изучение и компьютерное моделирование поведения человека.

3. «Метафора колеса»: аналогии 1 и 2 для создания ИИ не обязательны – например, колеса в природе нет, но оно эффективнее способов передвижения живых организмов; трудно представить, на какой стадии развития застряло бы человечество, если бы вместо колеса попыталось имитировать ногу, а ведь мозг на много порядков сложнее.

Последние два направления ориентируются на решение сложных задач с использованием знаний и легли в основу противоположного нейрокибернетике принципа «черного ящика»: не имеет значения, как устроен человеческий мозг, главное, чтобы ИИ обладал его способностями.

Теория знаний, которая стала здесь ключевой, развивается на пересечении философии, лингвистики, математики и психологии. И сам прогресс области ИИ превращается в продуктивный диалог этих наук, ориентирующийся как на решение проблем прикладного характера, так и на поиски ответов на вопросы самого высокого уровня – Что есть человек, Мир вокруг нас, Наши знания об этом мире и т.п.

Зачем и куда

Прикладные работы в области ИИ – это та самая интеллектуализация, которая нужна для решения любых сложных прикладных задач. Поэтому энтузиасты этой новой, но заманчивой проблемы берутся за все что угодно и фронт искусственного интеллекта растет в основном в ширину.

Что-то получается, но пока, чаще всего, не выше «тройки». Редко – на «четыре с минусом»: например, манипуляторы, зрение и анализ изображения, анализ и синтез речи, диагностика… В качестве серьезного прорыва можно было бы привести шахматы, но и здесь в основном результаты получены не благодаря успешным творческим моделям, а по причине роста мощности компьютеров, способных с помощью удачных эвристик перебирать теперь варианты быстрее, чем их могут оценить чемпионы мира.

Типична история машинного перевода, возможности которого вначале переоценивали на порядки. Хотя любому хорошему переводчику известно, что для настоящего перевода (даже технического) мало словаря и грамматики. Тут еще нужны знания в той области, к которой относится текст. А эти знания и есть ядро ИИ, без которого никакой серьезной интеллектуализации не получается.

Скажем, метеосводки машине переводить по силам: эта область достаточно ограниченная, знания о ней можно формализовать и поместить в компьютер. А что-нибудь более сложное пока не удается: чем шире область, тем больше падает качество. Во всяком случае, серьезные успехи остаются еще по-прежнему за горизонтом.

Но это совсем не означает, что работы в ИИ теряют смысл: совершенно ясно, что интеллектуализация является сегодня ключом стратегического развития как самих информационно-коммуникативных технологий (ИКТ), так и всех областей, в которых они используются, а продуктивных серьезных прикладных разработок без теоретической базы не бывает.

Мега-проблемы

По настоящему большие проблемы, которые ставит перед собой человечество, можно разделить по сложности на несколько уровней.

Технические – как правило, их разработка требует не менее нескольких лет. Таких подавляющее большинство, одни решаются за счет блестящих творческих находок, для других необходимы большие коллективные – иногда международные – усилия. Например, реактивная авиация или мобильная телефония.

Макро: масштаб – несколько десятилетий. Сюда относятся почти все глобальные проблемы, включая такие, как ближний космос, стратегические задачи энергетики, экологии, медицины и т.п.

Мега: время решения занимает несколько – часто много – поколений, например, полеты в далекий космос.

Сегодня до уровня мега поднимаются стратегические проблемы лишь немногих областей знаний, которые возглавляет прародительница всех наук – философия. Три тысячи лет она пытается сформулировать наиболее общие законы окружающего мира, т.е. определить всеобщее устройство всего. Недаром мифический инструмент решения всех проблем назывался философским камнем.

Очень похоже, что ИИ поставил перед собой задачу сравнимого масштаба, для решения которой надо узнать все о себе и научиться находить аналогичные технические решения. Таким образом, философия и искусственный интеллект движутся навстречу друг другу: философия от самых общих законов к попыткам примерить их к частным случаям, а ИИ – от решения конкретных задач ко все более широкому обобщению своих экспериментальных достижений.

Навсегда в лабиринте?

Любая мега-проблема необозрима и по существу, и в силу ее масштаба. Например, для античного мира мега-проблемой было представление об ойкумене, т.е. о мироздании и прежде всего о нашей планете. Сколько теорий, схем и карт на эту тему было создано неутомимым сочетанием недостаточного опыта и неограниченного воображения (слоны на черепахе, купол неба, край света и т.п.) и насколько далеки они были от той картины, которая считается истинной сегодня.

Поэтому мега-проблему можно сравнить с гигантским лабиринтом, в различных точках которого находятся группы исследователей, стремящихся найти свой путь к цели, хотя и пространство лабиринта, и сама эта цель понимается ими по-разному.

В одном эти группы похожи: они не представляют себе размеры и сложность мега-проблемы, иначе никогда бы не решились пуститься в свой поход. И уж, по крайней мере, не тешили бы себя иллюзиями о том, что имеют представление о задаче и знают, в какую сторону двигаться.

Между разными группами есть подобие связи и возможность общения, хотя и ограниченная не слишком высокой их способностью к взаимопониманию. Это создает у них иллюзию единого поля видения и представления об общей карте «области исследования». Хотя я уверен, что эта карта – или множество ее частных вариантов – не ближе к истине, чем упоминавшаяся карта ойкумены древнего мира.

Человек и машина

Сколько шло и идет споров на тему, реально ли создание машины, которая превосходила бы возможности человеческого мышления со всеми его особенностями и нюансами? Вопрос скорее философский: научиться со временем имитировать «технически» можно что угодно и на любом уровне качества, никак не отличимом от возможностей человека. А следовательно, и превзойти его…

Но тут есть два тонких момента. Первый: будет ли эта «машина» машиной или уже нет? И второй: если сам человек будет стоять на месте и даже тихонько деградировать, как это происходит сейчас, то обойти среднего homo sapiens машине будет совсем не так сложно.

Вспомним тест Тьюринга: с кем будем сравнивать ИИ – с интеллектуальной элитой или с любителем пива и телевизора? И кто будет сравнивать – если другой любитель телевизора, то можно считать, что ИИ уже за углом.

Мы видим, как наша цивилизация попадает во все большую зависимость от ею же создаваемой техники, для которой всегда существует возможность ошибки или сбоя, которые окажутся губительны для человечества.

Приходится признать, что такова уж особенность нашей культуры: любой этап развития человека – это шаг в симбиозе с новым уровнем технологии. Освоение каменных орудий и огня тоже имело не только плюсы, но и минусы. Прогресс – нечто вроде наркотика, и чем дальше, тем зависимость от его даров только растет.

Во многих отношениях люди от технической цивилизации уже сегодня зависят целиком и полностью. Мы все больше врастаем в нее, а она в нас. Отключается электричество в Нью-Йорке или Москве – начинается «конец света». Почему отключилось? Компьютер подвел. Сегодня мы даже от не очень сложных своих компьютеров зависим иногда до беспомощности, а ведь у них интеллекта пока еще несравнимо меньше, даже чем у кошки. Если управление нашим будущим будет переходить к тому ИИ, который «за углом», то о таком будущем и думать страшно.

Кто такой еHOMO

Между тем, как уже видно, основная дорога ведет совсем не туда, куда собирались. За спорами о том, может ли машина мыслить, что такое интеллект (тем более искусственный), не завоюют ли нас машины и т.п., довольно неожиданно прямо на наших глазах стал формироваться непредусмотренный третий участник игры в будущее. Я назвал его еНОМО, поскольку он порождается симбиозом сегодняшнего homo sapiens с быстро совершенствующимися сверхвысокими технологиями.

В этом коктейле проступает совсем новая формация личности середины XXI века: еНОМО будет отличаться от человека начала нынешнего века настолько же, насколько этот наш современник отличен от крестьянина средних веков.

Очевидно, что эти еНОМО не появятся ниоткуда: можно сказать, что они уже среди нас, да и сами мы, пусть немного, но ими являемся. Те, кто уже сегодня активно пользуются интернетом, мобильником, персоналкой, начинают, не осознавая того, превращаться в этот новый вид, который сохраняет принадлежность к биологическому homo, но качественно все более отличается от него за счет врастания в развивающуюся электронную среду обитания.

Никаких сомнений, что возникновение «нового человека» – это неизбежный закономерный процесс, который может остановить сегодня разве что мировая катастрофа. Интеллектуализация является двигателем этого процесса, поскольку как раз и направлена на то, чтобы взаимодействие с полезным устройством сделать простым и эффективным.

Нетрудно представить надежный мобильник с парой кнопок, по которому первобытный человек в Андах (а такие есть не только там) сможет говорить с любым соплеменником, или спросить погоду на завтра, или позвать на помощь. А от этого уровня до интереса к телесериалам один шаг... Правда, дальше в мировую культуру дорога намного более крута и число еще предстоящих на ней ступеней интеллектуализации определить пока невозможно.

Мы у порога нового этапа цивилизации, касающегося как всего человечества, так и каждого человека, его личности, тела, образа жизни и даже души. В такой перспективе кажется не столь уж важным, кто будет управлять огромным муравейником еНОМО: искусственный интеллект или еНОМО из числа высшего руководства.

Трансформация в еНОМО только начинается, но мы уже не те НОМО, которыми были 20 лет назад, хотя пока и не такие, какими станем через 10–20–30 лет, т.е. еще при жизни основной части нынешнего поколения. Электронная среда будет для нового человека не только внешней, она проникнет внутрь его организма в виде чипов и микроустройств чуть ли не молекулярного размера.

Поскольку проблема еНОМО – это не какое-то далекое будущее, а наше весьма близкое завтра, а в чем-то даже и сегодня, мне кажется, что она заслуживает специального широкого обсуждения.

Где нужен ИИ сейчас?

Пока до «окончательного» ИИ еще весьма далеко, стоит выяснить, в каких областях наиболее востребованы методы интеллектуализации сегодня. Все их здесь, конечно, не перечислишь, но стоит привести несколько примеров.

– Прежде всего ясно, что в интеллектуализации нуждаются практически все сферы использования современных ИКТ, – например, любое рабочее место в составе всякой сложной прикладной компьютерной системы.

– Виртуальная реальность: от игр, в которые играют как дети, так и взрослые, до профессиональных тренажеров и компьютерных технологий в кино и на телевидении.

– Роботы – те автономные устройства, которые еще очень далеки от своих фантастических прообразов, но уже стали необходимыми в технике и начинают быть полезными даже в быту.

– Растущий поток текстовых, акустических и визуальных данных требует все более содержательной обработки (в том числе и упомянутого машинного перевода) и не может оставаться без интеллектуальных технологий поиска, анализа и синтеза всех видов информации.

– Экспертные системы нужны практически в каждой области, как только она осваивает технический уровень ИКТ; начиная свое внедрение, этот авангард ИИ немедленно требует формирования специализированных баз знаний, диагностики и систем поддержки решений, т.е. основы своего дальнейшего развития.

Во всех перечисленных областях, а также во многих других приложениях ИИ ключевыми остаются – и, видимо, еще долго будут – две доминанты:

1. Интеллектуализация пользовательского интерфейса, поскольку «взаимопонимание» пользователя и компьютера является необходимым условием эффективности любой человеко-машинной системы;

2. Повышение качества работы самого компьютера, которая сводится в конце концов ко все более результативному решению все более сложных задач, как хорошо, так и все более плохо формализуемых.

Марафон «Будущее»

Я выбрал метафоры горного эффекта и лабиринта для иллюстрации того, что сегодня ИИ еще не вышел из пеленок, и если он пока не многое может, то у него все еще впереди. Что касается еНОМО через несколько десятков лет, мы тоже пока можем только воображать – возможно, не с большим правдоподобием, чем братья Райт – истребитель Стелз.

Таким образом, разворачивающийся очередной этап марафона «Будущее» включает три участника – человека, ИИ, а теперь еще и еНОМО.

Для нас ставки упираются в ключевой вопрос: можно ли сказать, что изучать скрытые или забытые возможности человека теперь бессмысленно, поскольку развитие его способностей уже подошло к своему пределу?

Поскольку я уверен, что эти скрытые способности огромны, то согласен с той точкой зрения, что человек сам о себе знает очень мало и сменив сегодняшнее техногенное направление развития на homo-центрическое, он мог бы совершить необходимый крутой поворот в своем развитии, сохранив в еНОМО ведущую роль НОМО по отношению ко всему огромному спектру возможностей, добавляемых приставкой «е».

Другими словами, все три участника «рывка в будущее» – включая и человека – пока еще только обозначены пунктиром. К сожалению, наш электронный век работает в этом марафоне на еНОМО, меньше на ИИ, и совсем в последнюю очередь на человека.

Хотел бы добавить к этому, что несколько лет назад я опубликовал доклад «Искусственный интеллект: стагнация или новая перспектива?». И тогда, и сейчас я не то что надеюсь – я знаю наверняка, что мы находимся на пороге «большого скачка» не столько в ИИ, сколько в интеллектуальных технологиях.

Это особенно важно для текущего этапа развития ИКТ, где объем и качество прикладных результатов резко возрастут. И главное, что это может быть сделано здесь, в России.

Однако сегодня эта возможность дальше, а не ближе – сказывается общее положение дел во всей отечественной науке за последние 15 лет. Если это продлится еще год-два, то наш шанс стать лидером – или хотя бы участником – этого «рывка в будущее» останется навсегда упущенным.