6. На арену!

Известно, что компьютеры невероятно сильны в расчетах, а поскольку далекие от шахмат люди полагают, что шахматы всецело построены на вычислении ходов, они удивляются тому, что человек вообще способен состязаться с машиной. Эта довольно резкая перемена в общественном сознании по сравнению с 1950-ми годами, когда идея шахматной машины казалась научной фантастикой, произошла во многом благодаря компаниям Apple, IBM, Commodore и Microsoft, привнесшим компьютеры в каждый дом, офис и школу. Люди привыкли к компьютерам и их удивительным способностям: разве может древняя настольная игра устоять перед колоссальной мощью этих машин?

 Такого рода заблуждения в сочетании с многовековой романтизацией шахмат как интеллектуального эталона наделяли идею противостояния чемпиона мира и шахматной машины особой значимостью. Шахматы не пользовались на Западе большой популярностью, хотя в большинстве стран Европы шахматные события освещались в ряду спортивных новостей, а не на последних страницах газет с комиксами и головоломками, как это часто бывало в США. Связь между шахматами и компьютерной революцией оказалась привлекательной темой для рекламодателей, СМИ и широкой общественности. Это стало большим плюсом и для самих шахмат, где традиционно существовала проблема с поиском спонсоров.

Проблема со спонсорством возникала даже при организации матчей за шахматную корону, хотя ситуация постепенно улучшалась. С 1984 по 1990 год я сыграл подряд пять матчей на первенство мира с Анатолием Карповым, и это беспрецедентное противостояние подняло интерес к игре на уровень, который она знала разве что во времена легендарного матча между Бобби Фишером и Борисом Спасским в 1972 году. Уникальный матч привлек гораздо больше интереса и денег, чем все матчи за два десятилетия до и после него, вместе взятые. Битва дерзкого американца с представителем советской системы символизировала дух холодной войны. Кроме того, поединок состоялся на международной арене в Рейкьявике, и на кону стоял приз в несколько сотен тысяч долларов — в отличие от других матчей за мировую корону, которые проходили в Москве между двумя советскими шахматистами, сражавшимися ради привилегий, копеечного вознаграждения и удовлетворения амбиций.
Мой первый матч с Карповым начался в сентябре 1984-го. Это был марафон, длившийся пять месяцев и 48 партий, до тех пор, пока его не прервали по решению Международной шахматной федерации (ФИДЕ), как только я сократил разрыв в счете, одержав две победы подряд. Во втором матче, осенью 1985-го, я сумел отобрать у Карпова шахматную корону. Мне было тогда всего 22 года, я симпатизировал Западу и хотел понять, какие политические и экономические преимущества дает мне завоеванный чемпионский титул. Мое восхождение на вершину шахматного Олимпа по времени совпало с приходом в стране к власти Михаила Горбачева и началом его политики гласности и перестройки. Я задавал вопросы: например, если я выиграю турнир во Франции, почему я должен отдать бóльшую часть своего приза Спорткомитету? Почему я не могу заключать выгодные спонсорские контракты с иностранными компаниями так же, как это делают звезды спорта во всем мире? Почему я не могу ездить по Баку на «Мерседесе», который я выиграл в честной и открытой борьбе на турнире в Германии? Я отстаивал не только свои интересы, но и интересы других ведущих советских спортсменов. Иногда из-за столь «непатриотичных» взглядов у меня бывали неприятности, но в конце 1980-х советское руководство столкнулось с гораздо более серьезными проблемами, чем фрондирующий чемпион мира по шахматам. И пусть я был не так благонадежен, как Карпов, я уверенно продолжал свое победное шествие.
В 1986 году мы решили распахнуть двери в «дивный новый мир», разделив 24 партии нашего матча-реванша между Лондоном и Ленинградом. Чемпионат мира, в котором схлестнулись два советских шахматиста, впервые проходил за пределами СССР. На церемонии открытия мы стояли на сцене вместе с Маргарет Тэтчер и давали интервью на английском, пусть и под привычным бдительным оком наших кураторов из КГБ. Четвертый матч двух «Ка» в 1987-м полностью проходил в испанской Севилье, и я с трудом удержал свой титул благодаря победе в заключительной партии. Наконец, наш пятый и последний матч в 1990 году был разделен между Нью-Йорком и французским Лионом. Берлинская стена рухнула, затем последовал распад СССР, и передо мной и шахматами открылась эра невиданных возможностей и вызовов. Машины являлись интересной частью этой новой эпохи.
Примерно в то же время, в конце 1980-х годов, когда Deep Thought стала первой машиной, представлявшей реальную угрозу для гроссмейстеров, в научном и деловом мире началось возрождение интереса к искусственному интеллекту. «Зима ИИ», вызванная годами несбыточных обещаний и последующих разочарований, подошла к концу. Кризис в области искусственного интеллекта вырос из чрезмерного оптимизма, присущего в 1970-е годы многим экспертам: они верили в скорое раскрытие всех тайн человеческого и машинного мышления. В 1980-е годы оказались закрытыми немало исследовательских проектов и венчурных фирм в сфере искусственного интеллекта, и вектор развития ИИ переменился. Фундаментальную науку вывели из игры, а верх взяли практические соображения. Попытки понять человеческий разум были оставлены в прошлом; в настоящем же преобладало стремление получить результаты в конкретной узкой области. Новым лозунгом стало «Машина не должна думать — она должна работать».
Выступая на конференции по проблемам искусственного интеллекта (Сиэтл, 2001), глава корпорации Microsoft Билл Гейтс напомнил о великих ожиданиях, связанных с ИИ в 1970-е годы: «Microsoft была основана около 25 лет назад, и я помню, что тогда думал: "Если я займусь всеми этими коммерческими вещами, то не смогу участвовать в гигантских прорывах, которые будут совершены в области искусственного интеллекта в ближайшее время!" [Смех] Я был оптимистом. Помню, как во времена моей учебы в Гарварде уже существовали такие системы ИИ, как шахматная программа Гринблатта, программы Maxima и Eliza, и люди верили, что некоторые из этих сложных задач будут решены через пять — десять лет».
Чтобы быть справедливым, скажу, что пионеры ИИ ставили перед собой — точнее, перед своими машинами — грандиозные цели: использование естественного языка, самообучение и понимание абстрактных понятий. В ретроспективе их оптимизм кажется, мягко говоря, необоснованным. В 1956 году организаторы Дартмутского летнего исследовательского проекта смело провозгласили, что значительный прогресс в области ИИ может быть достигнут, если «лучшие ученые умы объединят свои усилия в течение одного лета». Одного лета!
Я не буду критиковать людей за смелые мечты, поскольку именно так технологии меняют мир — и это происходит не по заранее установленному графику. Получив увесистый пинок под зад от советского спутника, американское научное и инженерное сообщество заложило в 1950–1960-е годы фундамент для дальнейшего развития почти всех цифровых технологий, от которых мы зависим сегодня, от интернета и полупроводников до GPS-спутников. В отличие от создания ИИ, оказавшегося в то время задачей не по зубам, многие другие амбициозные проекты были успешно реализованы.
История предшественницы интернета, сети ARPANET, поистине бесценна, но она слишком пространна и слишком далека от темы нашего разговора, чтобы рассказывать ее здесь в полном объеме, поэтому я ограничусь коротким эпизодом из своей жизни. В 2010 году меня пригласили выступить на церемонии вручения премии Дана Давида в Тель-Авиве. Каждый год Фонд Дана Давида и Тель-Авивский университет присуждают премии, чтобы «выразить признание и оказать поддержку инновационным и междисциплинарным исследованиям, выходящим за рамки традиционных границ и парадигм». На церемонии присутствовал Леонард Клейнрок из Калифорнийского университета в Лос-Анджелесе, получивший награду в номинации «Будущее — компьютеры и телекоммуникации». Во время показа слайд-шоу с кратким обзором его достижений я с волнением прошептал своей жене Даше: «Это он! Это человек, который отправил буквы "l" и "o"!»
29 октября 1969 года Леонард Клейнрок со своими коллегами отправил первое в истории электронное письмо со своего компьютера в Калифорнийском университете на компьютер в Стэнфорде через сеть ARPANET. Они пытались отправить слово login, но после буквы «о» система рухнула. Месяц спустя между машинами наладили постоянную связь. Через несколько недель к сети присоединились еще два компьютера, в Санта-Барбаре и Солт-Лейк-Сити. Я хорошо знаю историю создания ARPANET и часто рассказываю ее своим слушателям, которые считают, что интернет появился в 1990-е. Познакомиться лично с великим Леонардом Клейнроком было для меня огромной честью.
Клейнрок, награжденный в 2007 году Национальной научной медалью США, разработал математические основы пакетной передачи данных и теорию маршрутизации сетевого трафика, которые лежат в основе работы современного интернета. Клейнрок отмечает, что, несмотря на примитивный характер их первых изобретений и огромные трудозатраты, связанные с созданием аппаратного и программного обеспечения для первых сетей, у участников проекта были глобальные амбиции. И даже более чем глобальные.
23 апреля 1963 года Джозеф Ликлайдер, директор Агентства перспективных исследовательских проектов Министерства обороны США (ARPA), разослал коллегам восьмистраничный меморандум, в котором изложил цели нового проекта — заставить компьютеры разговаривать друг с другом. Письмо было адресовано «членам и филиалам межгалактической компьютерной сети». И вы говорите об амбициях! Этот документ, как и ряд последовавших за ним, определил ориентиры для исследований ARPA, включая создание технологии передачи файлов, электронной почты и даже цифровой передачи голоса, благодаря которой мы сегодня можем пользоваться, например, Skype.
После того как Клейнрок отправил через сеть ARPANET буквы «l» и «o», прошло целых 20 лет, прежде чем интернет преобразовал глобальную экономику и повседневную жизнь почти каждого человека. Электронная почта появилась раньше Всемирной паутины и широко использовалась в научном сообществе и университетских кампусах, но именно интернет стал тем изобретением, которое изменило мир.
Агентство перспективных исследовательских проектов было основано в феврале 1958-го администрацией Эйзенхауэра в ответ на запуск Советским Союзом первого спутника годом раньше. Агентству поставили задачу предотвратить подобные сюрпризы в будущем, но скоро в его функции включили разработку аналогичных прорывных технологий, способных удивить врагов Америки. Как ни странно, такое расплывчатое описание миссии было на руку ARPA, позволяя ему без труда получать одобрение и ассигнования в Пентагоне и тем самым давая идеальную возможность для финансирования экспериментальных исследований. Американские генералы не хотели, чтобы новая группа умников опередила их в важных секторах военных технологий, таких как ракетные комплексы, поэтому многие из ранних проектов ARPA были реализованы в весьма неожиданных — гражданских — областях.
Одним из таких направлений стал искусственный интеллект, хотя прогресс здесь был гораздо скромнее, чем ожидалось. В 1972 году агентство прибавило к своему названию букву «D» — Defense(«оборона») — и стало называться DARPA. Затем в 1973-м была принята поправка Мэнсфилда. Она ограничила выделение средств на многие проекты DARPA, не связанные непосредственно с военной областью, что сильно ударило по многим направлениям фундаментальных научных исследований, сократив их государственное финансирование. Для такой относительно неперспективной — по крайней мере в глазах представителей Министерства обороны — области, как искусственный интеллект, этот удар стал смертельным. Военным были нужны экспертные системы распознавания целей, а не машины, которые умеют говорить.
Леонард Клейнрок оказался нашим соседом в Верхнем Уэст-Сайде на Манхэттене. Он был достаточно любезен, чтобы поделиться со мной своими мыслями о том, почему и как ARPA (он всегда настаивал на этом названии) перестало быть двигателем развития ИИ и других технологических инноваций. Его первый вывод не удивил: рост бюрократии задушил инновации и коммуникации. «Агентство стало слишком большим, — сказал он мне за обедом. — Раньше мы проводили выездные встречи, во время которых физики, компьютерщики, микробиологи и психологи обменивались друг с другом идеями и опытом. Все могли уместиться в одной комнате. Но когда агентство разрослось, это стало невозможным и разные группы стали мало общаться друг с другом».
Из небольшого клуба блестящих (и хорошо финансируемых) ученых, изучающих различные идеи в условиях относительной свободы, DARPA превратилось в громоздкую иерархическую организацию. Вот почему я с 2013 года занимаюсь междисциплинарными исследованиями в Школе Джеймса Мартина при Оксфордском университете, где работаю приглашенным старшим научным сотрудником. Великие новые открытия рождаются благодаря перекрестному опылению.
Клейнрок также отметил, что переход на чисто военную ориентацию означал, что десятки аспирантов, участвовавших в финансируемых DARPA проектах, были отстранены от работы из-за отсутствия допуска к секретной информации. Для Клейнрока было неприемлемым изгнание стольких ярких молодых умов из важных областей исследований, и он перестал брать деньги у DARPA. В 2001 году министерство обороны возглавил Дональд Рамсфельд, выразив намерение перетрясти его сверху донизу. Но планы вернуть агентству его гибкий, амбициозно-экспериментальный характер были сорваны терактами 11 сентября, после которых правительство сосредоточило все внимание и ресурсы на борьбе с террористической угрозой. DARPA обратилось к проектам, посвященным сбору и анализу информации; одним из его детищ стала печально известная программа под оруэлловским названием «Тотальная информационная осведомленность», вызвавшая в 2003 году недовольство общественности.
DARPA не полностью отказалось от ИИ и даже имело в бюджете небольшую «шахматную» статью. Внимательно прочитав научные публикации о машине HiTech, созданной Хансом Берлинером в Университете Карнеги — Меллона, можно увидеть, что в 1980-е этот проект частично финансировался за счет гранта DARPA. Недавно агентство предложило провести ряд конкурсов на лучший беспилотный автомобиль и другие прикладные технологии, связанные с практическим применением ИИ. Используя развитие шахматных машин как модель, DARPA объявило конкурс на лучшую разработку автономной защиты сети. В соответствии с дарвиновской теорией эволюции в компьютерных шахматах фокус на конкуренции, а не на фундаментальных исследованиях препятствовал прогрессу истинного искусственного интеллекта, но способствовал созданию все более эффективных шахматных машин. А военные всегда испытывали острый интерес к алгоритмам анализа разведданных и совершенствованию военных технологий, к чему я вернусь позже.
Грандиозные предсказания исследователей искусственного интеллекта в 1950–1960-е годы перекликались с прогнозами специалистов по компьютерным шахматам тех же лет; на самом деле зачастую это были одни и те же голоса. Но, в отличие от ученых, занимавшихся ИИ, специалисты по компьютерным шахматам вытащили золотой билет — разработали поисковый алгоритм «альфа-бета», который гарантировал стабильное улучшение. Было ли это новшество благословением или проклятием, но оно обусловило ощутимый прогресс. Те же, кто изучал универсальный ИИ, не сумели добиться столь же явного постепенного роста, который гарантировал бы им государственные гранты, инвестиции корпораций и исследовательские программы в университетах. Весна ИИ наступила только тогда, когда это движение, как и движение компьютерных шахмат, отказалось от грандиозной мечты сымитировать человеческий интеллект. Новым направлением развития стало машинное обучение, которое на протяжении многих лет не достигало больших успехов. Но в 1980-е годы появился новый решающий фактор — большие данные.
Дональд Мичи был одним из пионеров машинного обучения, еще в 1960 году применив этот метод к игре в крестики-нолики. Основная концепция заключается в том, что вы не закладываете в машину комплекс правил, которые она должна соблюдать, подобно тому как вы учите грамматические и синтаксические правила при изучении иностранного языка. Вместо того чтобы рассказывать машине о процессе, вы снабжаете ее множеством примеров этого процесса и позволяете самой выяснить правила.
И снова перевод с языка на язык служит хорошей иллюстрацией. Программа Google Translate опирается на машинное обучение и практически не знает правил тех десятков языков, с которыми работает. Компания даже не нанимает людей со знанием соответствующих языков. В систему загружаются миллионы и миллионы примеров правильного перевода, и машина, встречая что-то новое, сама определяет, какой вариант будет верным. В 1960-е годы, когда Мичи и другие пробовали применять этот подход, машины были слишком медленными, а их системы сбора и ввода данных — примитивными. Никто не смел предположить, что решение такой «человеческой» задачи, как язык, может быть делом масштаба и скорости. Создатели систем ИИ столкнулись с той же проблемой, что и первые шахматные программисты, которые, глядя на программы типа А, решили, что машины никогда не станут достаточно быстрыми для того, чтобы выйти на уровень грамотной игры с помощью грубой силы. Как сказал один из разработчиков программы Google Translate: «Когда вы переходите от десяти тысяч обучающих примеров к десяти миллиардам, это начинает работать. Данные решают всё».
В начале 1980-х Мичи со своими коллегами написал основанную на данных экспериментальную шахматную программу машинного обучения и получил весьма занятные результаты. Программисты «скормили» машине сотни тысяч позиций из гроссмейстерских партий в надежде на то, что машина сама разберется, что к чему. Вначале показалось, что это сработало. Ее оценка позиций была более точной, чем у обычных программ. Проблемы начались во время партии. Программа разыграла дебют, начала атаку — и сразу же пожертвовала ферзя! Потеряв ферзя за бесценок, она проиграла партию в несколько ходов. Почему она это сделала? Дело вот в чем: когда ферзя жертвует гроссмейстер, за этим всегда следует блестящий и решительный удар, и машина, учившаяся на гроссмейстерских партиях, решила, что жертва ферзя — ключ к победе!
Этот итог вызвал смех и разочарование, но представьте себе, что может произойти в реальном мире, если машины станут на основании примеров вырабатывать собственные правила. Давайте снова обратимся к научной фантастике, поскольку произведения этого жанра полны точных и дальновидных прогнозов. Опустим роботов-убийц и сверхразумные машины из фильмов «Терминатор» и «Матрица». Эти мрачные сценарии хороши только для фильмов и новостных заголовков, но такое антиутопическое будущее настолько далеко и маловероятно, что разговор о нем лишь отвлекает нас от более насущных и более вероятных проблем. К тому же лично мне надоело сражаться с машинами.
В картине 1984 года «Человек со звезды» рассказывается о наивном инопланетянине, который попадает на Землю (его сыграл Джефф Бриджес). Пришелец пытается вписаться в человеческое общество и учится обычаям землян, наблюдая за их поведением, — такая вот инопланетная версия универсального машинного обучения. Естественно, он делает массу забавных ошибок, но самую серьезную совершает тогда, когда садится за руль автомобиля. Он на скорости проскакивает перекресток, провоцируя аварию, и так объясняет своей подруге Дженни свой поступок:
Инопланетянин: Все в порядке?
Дженни: В порядке? Ты сошел с ума? Ты чуть не убил нас обоих! Ты сказал, что наблюдал за мной. И сказал, что знаешь дорожные правила!
Инопланетянин: Я знаю правила.
Дженни: К твоему сведению, на светофоре был желтый свет.
Инопланетянин: Я наблюдал за тобой очень внимательно. Красный цвет — стоять. Зеленый — можно ехать. Желтый — ехать очень быстро.
Дженни: Дай-ка лучше я сяду за руль.
Блестящий эпизод! Как и в случае шахматной программы, которая научилась подражать гроссмейстерам, отдающим своего ферзя, изучение правил только путем наблюдения может привести к катастрофе. Компьютеры, как инопланетные пришельцы, не имеют того, что мы называем здравым смыслом или интуицией, и не знают контекста, если только мы не сообщим его им или они не смогут создать его сами. На самом деле Человек со звезды не был абсолютно не прав; ему просто не хватило данных, чтобы понять, что ускорение на желтый свет зависит от более широкого контекста. Несмотря на петабайты данных, загруженных в память Watson, и миллиарды примеров, скормленных бездонному чреву Google Translate, эти программы иногда выдают странные результаты. Но, как это часто бывает в науке, мы извлекаем гораздо больше ценных знаний из непростых ситуаций, чем из благоприятных.
Весьма показателен ответ суперкомпьютера Watson на вопрос о том, какая «анатомическая особенность» была у одного из гимнастов — участников Олимпийских игр 1904 года. Сначала чемпион Jeopardy! Кен Дженнингс неуверенно предположил, что «у того была одна рука». Но он оказался неправ. Следующим свою версию предложил Watson: «Нога» (на самом деле в соответствии с правилами викторины он спросил: «Что такое нога?») — причем уровень достоверности этого ответа составил 61 %. Было совершенно ясно, что произошло. Гимнаст Джордж Эйсер лишился ноги и выступал с деревянным протезом. Поиск в базе данных дал множество результатов с именем Эйсер и словом «нога», обозначавшим анатомическое понятие. Пока все шло хорошо. Но дальше компьютер не смог понять, что наличие одной ноги не является «анатомической особенностью». Дженнингс ошибся по-человечески, сделав логичное предположение на основе нехватки данных. Watson ошибся как машина, имея правильные данные, но не сумел поместить их в широкий контекст, помогающий людям не выходить за границы здравого смысла.
Не знаю, был ли запрограммирован Watson обращать внимание на предыдущие ответы, но думаю, что в этом случае он бы сумел скомбинировать правильные данные с правильным предположением Дженнингса. На месте третьего игрока, Брэда Раттера — еще одного чемпиона Jeopardy! я бы так и поступил. Но он не доверял Watson, поскольку это было первое шоу с участием компьютера. Если бы Раттер воспользовался ответом Watson, моя идея о том, что люди и машины с искусственным интеллектом могут продуктивно работать вместе, получила бы подтверждение.
Любой, кто много путешествует, знает, насколько актуальна проблема адекватного перевода. Задолго до того, как интеллектуальные программы сделали для нас доступными многие языки, указатели, вывески и меню по всему миру изобиловали странными фразами наподобие «Комната отдыха для слабых» в аэропорту или «Тарелка с маленькими глупцами» в списке предлагаемых в ресторане блюд. Теперь Google и другие сервисы с лёту переводят целые веб-страницы, как правило, достаточно точно, чтобы понять смысл текста.
Разумеется, промахов по-прежнему много. Моя любимая ошибка — «чят», намеренно искаженное русское сленговое словечко, которое образовано от английского chat и иногда используется для обращения к аудитории в социальных сетях подобно тому, как пользователи Twitter приветствуют друг друга фразой «Привет, твипсы». Где-то в глубинах базы данных русского языка Google Translate слово «чят», состоящее их трех кириллических букв, ассоциируется, однако, с совсем другим значением. Я обнаружил это случайно, когда просматривал свою ленту в Twitter на компьютере друга с включенной функцией автоматического перевода. В переведенном варианте русские пользователи приветствовали друг друга: «Привет, чувствительные ядерные технологии!» Поиск в Google действительно выдал несколько малоизвестных правительственных документов, в которых аббревиатура ЧЯТ расшифровывалась именно таким образом.
Данная ошибка не настолько страшна, потому что у нас достаточно здравого смысла, чтобы обнаружить странность и отнести ее к несовершенству машинного перевода — вместо того, чтобы впадать в панику и повышать уровень ядерной боеготовности до DEFCON 2. Но что если бы это решение принималось алгоритмами ИИ, а не людьми? Как насчет секретных служб, опирающихся на компьютерный сбор и анализ высказываний на тему терроризма? Их сотрудники не показывают каждый твит человеку для двойной проверки — это замедлило бы процесс и снизило его эффективность. Но алгоритмы могут сделать тревожный вывод, что огромное число россиян обсуждают в социальных сетях ядерные технологии.
Машинам всегда будет трудно понимать новые технические термины и сленг: так же как у шахматного компьютера, у них нет ни интуиции, ни здравого смысла. Они должны сымитировать их. У них есть только оценочная функция, которая генерирует значение, отражающее уровень достоверности. Система машинного обучения настолько хороша, насколько хороши заложенные в нее данные, — точно так же, как дебютная книга шахматной программы настолько сильна, насколько сильны внесенные в нее партии. Поскольку количество переходит в качество, программа постепенно уменьшает число ошибок, сохраняя хорошие примеры и отбрасывая плохие со скоростью миллиард примеров в секунду, но аномалии наподобие «чувствительных ядерных технологий» все равно неизбежны!
Машинное обучение спасло ИИ от жалкого существования, поскольку работало и приносило прибыль. Компании IBM, Google и многие другие использовали его для создания продуктов, имевших практическое применение. Но можно ли назвать это ИИ? И так ли уж это важно? Теоретики ИИ, которые хотели понять и даже воспроизвести работу человеческого разума, в очередной раз были разочарованы. Американский информатик и когнитивист Дуглас Хофштадтер, написавший потрясающую книгу «Гёдель, Эшер, Бах: Эта бесконечная гирлянда» (1979), остался верен своему стремлению постичь человеческий разум. Но ИИ-сообщество, требовавшее немедленных результатов, продаваемых продуктов и все больше данных, забыло Хофштадтера и его работы,
В опубликованной в The Atlantic в 2013 году статье Джеймса Сомерса, посвященной Дугласу Хофштадтеру, последний с грустью размышляет о том, стоит ли выполнять задачу, если ее решение ничего не дает. «Итак, мы создали машину Deep Blue, которая сильно играет в шахматы. Ну и что из этого? — вопрошает он. — Улучшает ли она наше понимание того, как люди играют в шахматы? Нет. Позволяет ли она понять, как Каспаров анализирует ситуацию на доске, как выбирает ходы? Нет». По мнению Хофштадтера, системы, не пытающиеся ответить на такие вопросы, не имеют права называться искусственным интеллектом, какие бы впечатляющие результаты они ни показывали. Ученый дистанцировался от такого рода исследований почти сразу же, как только занялся ими. "Как человеку, понимающему суть ИИ, мне претило участвовать в этом обмане, — сказал он. — Я не желал выдавать поведение изощренной программы за интеллект, прекрасно зная, что оно не имеет ничего общего с интеллектом. Не знаю, почему все больше людей попадаются на этот крючок".
Не хочу быть циничным, но одним из объяснений может быть нынешняя рыночная капитализация Google, превышающая $500 млрд. Другой причиной, на которую указывают в той же статье некоторые эксперты, в том числе Дейв Ферруччи, один из создателей Watson, и Питер Норвиг из Google, может быть то, что люди предпочитают браться за задачи, которые они могут решить. Создать человеческий интеллект невероятно сложно, тогда как машинное обучение дает вполне неплохие результаты. Но как долго это будет продолжаться? Закон убывающей отдачи уже дает о себе знать. Достижения эффективности в 90 % зачастую достаточно для того, чтобы сделать машину полезной, но гораздо сложнее повысить этот уровень до 95 %, не говоря уже о 99,99 %, необходимых для того, чтобы мы доверили машине перевести любовное письмо или отвезти наших детей в школу.
Метод машинного обучения в конечном счете мог бы сработать и в шахматах, и в этом направлении был предпринят ряд попыток. Например, система AlphaGo компании Google использует его вместе с базой данных, содержащей около 30 млн ходов. Как и было предсказано, в игре го для победы над сильнейшими игроками одних только правил и грубой силы оказалось недостаточно. Напротив, к 1989 году Deep Thought ясно показала, что такие экспериментальные подходы вовсе необязательны для того, чтобы достичь высокого уровня игры в шахматы и бросить вызов лучшим игрокам мира. Единственное, что необходимо, — это скорость и еще больше скорости, и ее обеспечили специализированные микропроцессоры, разработанные Сюй Фэнсюном в Университете Карнеги — Меллона. После победы Deep Thought над гроссмейстерами Бентом Ларсеном и Тони Майлсом я решил, что для меня это может быть интересным новым вызовом, и принял его.
Мой первый матч из двух партий с Deep Thought состоялся 22 октября 1989 года в Нью-Йорке, хотя из нас двоих лично присутствовал там только я. Как уже повелось, сама машина находилась за сотни миль оттуда, а все ходы за нее делал оператор на обычной шахматной доске с обычными часами. Незадолго до этого в том же месяце IBM наняла команду Deep Thought, а в итоге инвестировала в этот проект миллионы долларов и собственных технологий, изменив его название на Deep Blue. Но этот миниматч спонсировался софтверной компанией AGS Computers из Нью-Джерси, чей президент был заядлым шахматистом и годом раньше оплатил матч между HiTech и Денкером.
Одна из трудностей игры против компьютеров состоит в том, что те часто и быстро меняют свою игру. Как правило, гроссмейстеры готовятся к бою, тщательно изучая манеру игры своего соперника, анализируя его последние партии и выискивая слабые места. В основном подготовка ориентирована на дебюты, которые обычно строятся на устоявшихся цепочках ходов и носят экзотические названия типа «сицилианская защита» или «индийская защита». Мы стремимся найти в этих дебютах новые идеи и новые сильные ходы («новинки»), чтобы удивить соперника. Особенно полезно постараться обнаружить слабое место в одной из любимых позиций будущего оппонента, ведь он, скорее всего, попытается создать ее на доске.
Более подробно о том, как компьютеры справляются с дебютами, я расскажу в главе о Deep Blue. Здесь же замечу только, что они используют так называемую дебютную книгу — базу данных, которая включает миллионы дебютных позиций, отобранных из реальных партий гроссмейстеров. Эти книги создавались годами и постоянно дополняются и улучшаются, чтобы дать машинам возможность играть более гибко, но основной принцип их применения остается неизменным: машины более-менее слепо следуют книге, пока она не «закончится», после чего начинают думать сами. Я фактически делаю то же самое: вспоминаю проторенные дебютные линии, пока те не иссякнут в памяти, а затем отправляюсь в свободное плавание.
Без ложной скромности могу сказать, что я был самым подготовленным игроком в истории шахмат. Еще с юности мне нравилось изучать дебюты и выискивать возможные усиления, добавляя их в свой арсенал. Захватывающая тактическая борьба в стадии миттельшпиля требует наивысшего напряжения, но и, чтобы найти новую идею в хорошо известной системе (что всегда меня увлекало), необходимы огромное упорство и изобретательность. В поисках слабого места у своих соперников я тщательно изучал применяемые ими дебюты и сохранил множество файлов с анализами и новинками. Даже сильные противники подчас не решались применять против меня свои любимые дебюты, опасаясь мощной новинки. Когда в 2005 году я ушел из профессиональных шахмат, некоторые шутили, что я должен выставить на аукцион свой ноутбук, полный важных шахматных знаний.
Мне было смешно слушать легенды о том, что якобы на меня работала целая команда гроссмейстеров и они, закованные в кандалы в подвале, круглыми сутками придумывали для меня новинки. На самом деле всю огромную базу данных собрали я и мои тренеры Юрий Дохоян и Александр Шакаров, который работал со мной с 1976 года и сохранил эту создававшуюся десятилетиями бесценную интеллектуальную собственность. Мне не нравилось, когда критики неодобрительно говорили, что я «выиграл партию дома» — то есть получил преимущество благодаря хорошей дебютной подготовке. Наивысшей похвалой для меня было признание моей блистательной игры непосредственно за доской, но я не вижу ничего постыдного в том, чтобы подготовиться к партии лучше соперника. Возможно, такой скептицизм чуть более оправдан сегодня, когда все профессиональные игроки используют для подготовки суперсильные шахматные машины. Конечно, даже при использовании машины подготовка требует от шахматиста немалого труда, но, когда потрясающая новая идея исходит от кремниевого, а не от человеческого мозга, суть шахмат немного выхолащивается.
Игра с шахматной машиной во многом обессмысливает дебютную подготовку. Даже если вы изучите все партии, сыгранные этой машиной по сей день, программисты могут загрузить новую дебютную книгу или изменить несколько настроек — и компьютер начнет применять дебюты, которых никогда не играл раньше. И справится превосходно, ведь, в отличие от нас, у него нет проблем с памятью! В то же время компьютер уязвим для новинок ничуть не меньше, чем люди, поскольку умеет делать только те ходы, которые есть в его базе данных. Не исключены забавные ляпы. На одном чемпионате среди шахматных программ компьютер зевнул фигуру, но соперник ее не взял, поскольку у обоих в дебютных книгах был один и тот же изъян. В наши дни все дебютные книги тщательно проверены и доработаны, дабы гарантировать, что машина не окажется в проигрышной позиции прежде, чем начнет думать самостоятельно.
Если вы полагаете, что книга с гигабайтами дебютных ходов дает машине несправедливое преимущество перед человеком, я с вами полностью согласен. Мне всегда казалось странным, что компьютер по сути пропускает целый этап партии, не пытаясь самостоятельно развить фигуры или создать пешечную структуру. Дебютная стадия предполагает сочетание мастерства, креативности и долгосрочного стратегического планирования, в чем машины традиционно слабы. Но благодаря дебютной книге компьютер просто пропускает этот сложный этап и переходит к миттельшпилю, где в полную силу проявляет свое тактическое мастерство.
К сожалению, хорошей альтернативы дебютной книге не существует, по крайней мере без внесения каких-либо изменений в правила. Шахматные дебюты разрабатывались эмпирическим путем на протяжении десятилетий, и игроки их изучают и запоминают. Даже слабый игрок способен запомнить достаточно много дебютов, чтобы выйти на игровую позицию, фактически не задумываясь (это плохая привычка, которую я критикую как тренер: она чревата тем, что по окончании дебютной стадии игрок может не понять возникшую на доске ситуацию). Дебюты являются важной частью шахмат, и их простое удаление из шахматной программы дало бы людям несправедливое преимущество. Это тоже привело бы к очень странной игре, когда машины, всецело полагаясь на свои алгоритмы, каждый раз стремились бы делать одинаково прямолинейные, развивающие ходы. В этом легко убедиться, если отключить дебютную книгу в своей любимой шахматной программе. Такой шаг дает сильному игроку неплохой шанс контролировать течение партии с самого начала, хотя, конечно, одолеть сегодняшнюю программу почти невозможно.
Дебюты не единственное, что может меняться у вашего компьютерного соперника от партии к партии. Например, программисты могут легко изменить несколько параметров, чтобы сделать игру машины более агрессивной. В одной шахматной программе может скрываться шесть различных «личностей», поэтому на протяжении матча из шести партий вы можете каждый раз сталкиваться с совершенно новым соперником. В партиях между двумя компьютерами это не имеет значения, но опытные шахматисты, как правило, изучают игровую манеру своих противников, что для меня всегда было важнейшим компонентом игры.
Наконец, компьютеры постоянно усиливаются. Версия Deep Thought, с которой я играл в 1989 году, уже была значительно усовершенствована по сравнению с той, что годом раньше победила Ларсена в Лонг-Бич. Параллельное аппаратное обеспечение компьютера позволяло добавлять шахматные микропроцессоры и вычислительную мощность. У него было шесть процессоров, а скорость перебора превышала 2 млн позиций в секунду, что намного превосходило данный показатель у всех предыдущих машин. Вот что команда Deep Thought написала в 1989 году о взаимосвязи глубины поиска и шахматной силы:
«Прогресс шахматных машин, основанных на грубой силе, еще в конце 1970-х годов предельно четко показал: скорость поиска и шахматная сила машины тесно взаимосвязаны. Партии между самотестирующимися компьютерами показали, что каждый раз, когда глубина поиска увеличивается на один дополнительный полуход, рейтинг машины повышается примерно на 200–250 пунктов. Поскольку каждый дополнительный полуход увеличивает дерево поиска в пять-шесть раз, даже двукратное повышение скорости позволяет повысить рейтинг примерно на 80–100 пунктов. Рейтинги, полученные машинами в партиях с людьми, указывают на то, что взаимосвязь сохраняется, возможно, вплоть до гроссмейстерского уровня, на котором в настоящее время играет Deep Thought. Именно из-за этой связи мы начали наш проект».
Другими словами, быстрее значит глубже, а глубже значит сильнее, и это было все, что имело значение. Если обозначить рейтинг шахматных машин по оси y, а количество просмотренных позиций в расчете на ход — по оси x, вы получите идеальную диагональ, отражающую восходящее направление развития шахматных машин. В 1970 году программа Chess 3.0 имела рейтинг 1400 пунктов; в 1978-м версия Chess 4.9 достигла рейтинга 2000; в 1983-м машина Belle преодолела отметку 2200; в 1987 году HiTech набрала 2400; а в 1989-м Deep Thought вышла на гроссмейстерский уровень 2500. Микропроцессоры становились все меньше и быстрее, поиск углублялся, а рейтинг повышался.
Эта удручающая тенденция, существовавшая на фоне проблем в инженерно-технической области, в очередной раз объясняет, почему многие были разочарованы тем фактом, что компьютерные шахматы оторвались от своих корней — искусственного интеллекта. Несмотря на впечатляющий рост рейтинга, в 1990 году специалист по машинному интеллекту и международный мастер по шахматам Дэнни Копек посетовал: «Из-за приоритетности соревновательного аспекта мы мало знаем о том, как программа в конечном итоге выбирает тот или иной ход. Это во многом раскрывает причину того, что компьютерные шахматы развиваются прежде всего как вид спорта (ориентированный на результат), а не как область науки (ориентированная на решение проблемы)».
Однако 22 октября 1989 года меня заботила не столько мощь искусственного интеллекта Deep Thought, сколько его шахматная сила. Я пытался догадаться, какие улучшения могли быть внесены в программу по сравнению с предыдущей версией, победившей в показательной партии сильного английского гроссмейстера Тони Майлса. Незадолго до этого я побил многолетний рейтинговый рекорд Бобби Фишера в 2785 пунктов и был уверен в своих силах. За день до матча я смог просмотреть несколько предыдущих партий Deep Thought, хотя, как я уже говорил, стиль игры машины мог существенно измениться за пару последних месяцев и даже суток. Тексты этих партий мне предоставил Мюррей Кэмпбелл из команды Deep Thought, что было с его стороны благородным жестом, свидетельствовавшим о дружественном и исследовательском духе матча. И, надо отметить, жестом справедливости. В конце концов, машина имела возможность проанализировать все мои партии, а я не мог обновить свой процессор накануне матча.
Проанализировав партии Deep Thought, я нашел, что машина сильна и полностью оправдывает свой рейтинг 2500, соответствующий минимальному гроссмейстерскому уровню. Я был, бесспорно, сильнее, но, по моим оценкам, в матче из десяти партий машина вполне могла бы добиться одной-двух ничьих и даже одержать одну-две победы. Перед началом игры в Нью-Йоркской академии искусств, где проходил матч, собралась оживленная толпа, и я был счастлив от сознания того, что мне выпало стать представителем человечества в этом противостоянии человека и машины. «Не представляю, как мы сможем жить дальше, зная, что существует нечто умнее нас», — заявил я на церемонии открытия. Сейчас можно сказать, что я сделал это заявление под воздействием скорее эмоций, нежели мыслей.
Это было не единственное мое необдуманное высказывание о компьютерных шахматах. В одном из интервью той поры я сказал, что шахматная корона достанется компьютеру раньше, чем женщине, — прогноз, который сбылся. Эти слова были восприняты как проявление сексизма, чем в действительности они не являлись. Дело в том, что тогда на горизонте еще не было ни одной шахматистки с «мужским» чемпионским потенциалом. Только несколько лет спустя младшая из трех замечательных сестер Полгар из Венгрии, Юдит, ворвалась в шахматную элиту и обосновалась в десятке сильнейших шахматистов мира.
В тот воскресный день в Нью-Йорке мне удалось доказать, что я не зря верил в свои силы. В 1-й партии, играя черными, я постепенно выстроил доминирующую позицию. К 20-му ходу я уже чувствовал, что стратегически победил; мне нужно было только сохранить контроль над позицией, пока я не смогу нанести решающий удар. Игра шла в сравнительно быстром темпе: соперники имели по 90 минут вместо двух с половиной часов, положенных по стандартам классических шахмат. Это давало преимущество компьютеру, поскольку у меня оставалось меньше времени на проверку расчетов, но мне его хватило.
Сосредоточив свои силы в центре, я начал продвигать пешки к неприятельскому королю, и Deep Thought не оставалось ничего иного, как ждать, когда на него обрушится топор. Я знал, что, если будет хотя бы одна возможность выскользнуть из капкана, компьютер обязательно ее найдет, поэтому не торопил события. Гроссмейстер, оказавшись в такой пассивной и беспомощной позиции, сделал бы все для того, чтобы вырваться на свободу, ибо в этом случае у него появился бы шанс переломить игру. Люди понимают, что лучше рискнуть быстрым проигрышем, но зато получить хотя бы крошечный шанс на спасение, чем не предпринимать никаких действий и обречь себя на неминуемое медленное удушение.
Однако компьютеры не понимают таких абстрактных концепций, как шансы и компромиссы. Они всегда ищут лучший ход в данной конкретной позиции, поскольку попросту не способны на иное. Возможно, покерные машины запрограммированы иначе, но шахматные не умеют блефовать. Они не будут делать намеренно слабый ход в надежде, что противник не увидит подвоха. Некоторые исключения могут возникнуть в том случае, если программисты заранее изменят настройки машины так, чтобы она добилась победы любой ценой и избежала ничейного исхода. В настройках шахматных программ эта функция называется фактором пренебрежения (contempt factor); она может заставить машину продолжить борьбу и делать более рискованные ходы, вместо того чтобы довольствоваться ничьей. По сути, компьютер будет сверхоптимистично оценивать свою позицию или, как подразумевает название, пренебрежительно оценивать шансы противника.
В 1-й партии нашего матча у Deep Thought не было возможности проявить подобный оптимизм или пренебрежительность: несмотря на свойственную компьютеру упорную защиту, я в конце концов совершил прорыв и выиграл на 52-м ходу. Сегодня я с огорчением вижу, что не всегда делал лучшие ходы и в один из моментов Deep Thought мог существенно укрепить свою оборону. По окончании партии я хвастливо заявил, что «после такого поражения человек был бы морально убит». Но машина не человек; ее нельзя запугать, поэтому 2-ю партию, белым цветом, мне пришлось начинать с чистого листа.
Белые ходят первыми, что по крайней мере на мастерском уровне дает такое же преимущество, какое можно получить благодаря подаче в теннисе. В состязаниях профессионалов белые побеждают вдвое чаще, чем черные, хотя половина всех партий заканчивается вничью. Белые, как правило, определяют характер боя, и я воспользовался этим, разыграв ферзевый гамбит — предложив Deep Thought жертву пешки, ведь компьютеры были по-прежнему довольно жадны до материала. Как и следовало ожидать, машина клюнула на наживку и вскоре оказалась в трудной позиции: мои фигуры взяли под контроль всю доску. Моя атака на короля вынудила Deep Thought на 17-м ходу отдать ферзя, после чего наступила «техническая стадия реализации преимущества». Любой человек в этой ситуации сдался бы с чистой совестью, но программисты полагают, что машине терять нечего, и программируют ее на продолжение игры, даже если ее оценочная функция показывает неизбежный проигрыш. Учитывая, насколько хорошо компьютеры могут пользоваться человеческими промашками, такой подход нельзя назвать неразумным, хотя порой он раздражает.
На 37-м ходу оператор все же был вынужден признать поражение, и аудитория, явно болевшая за человека, наградила меня громом оваций. Мое первое серьезное сражение с шахматной машиной оказалось легким и приятным, и даже местные таблоиды уделили внимание этому матчу. «Красный шахматный король быстро сжег чипы Deep Thought», — написала New York Post, использовав анахронизм времен холодной войны. Команда Deep Thought была явно недовольна игрой своей машины, даже если и не ожидала другого результата.
Перечитывая впоследствии комментарии программистов о матче, я понял, что старая шутка о том, что все побежденные соперники оказываются не совсем здоровы, точно так же применима и к компьютерным шахматам: мне никогда не удавалось победить шахматную программу, в которой не было бы багов! Оказывается, в программе Deep Thought имелся дефект — «ошибка рокировки», ослаблявшая игру машины. Программисты обнаружили неполадку только через несколько недель. Как я расскажу чуть позже, это стало темой для обсуждения. Я также узнал, что между партиями Сюй Фэнсюн перенастроил машину на более медленную игру, что в очередной раз показывает, как глупо надеяться на то, что вы узнали о своем компьютерном противнике в ходе предыдущей партии: спустя час он может играть уже совсем по-другому.
Честно говоря, я не помню, чтобы первое официальное сражение с компьютером произвело на меня какой-то особый психологический эффект. Да, это отличалось от того, к чему я привык, но я не чувствовал никакой зловещей угрозы. Я был настолько уверен в своих силах, что не испытывал даже привычного напряжения, которое обычно чувствовал во время партий с гроссмейстерами. Наш поединок больше походил на дружеский товарищеский матч или научный эксперимент. Но в последующие годы все изменилось: машины превратились в опасных соперников и начали появляться на серьезных турнирах, где на кону стояли престиж и деньги, а не только будущее человечества.