Как сделать искусственный интеллект ориентированным на благо людей

Отраслевые эксперты и ведущие журналисты на рынке технологий ожидают появления AGI (Artificial General Intelligence) — модели с интеллектом, близким человеческому, которая сможет самообучаться. Отсюда — и дискуссии о том, приведет ли это человечество к процветанию, превосходящему наши самые смелые мечты (сдержанные оценки говорят о возможном ускорении роста ВВП на 1−2%), или, напротив, к концу человеческой цивилизации и порабощению человека сверхразумным ИИ.

Пока нет доказательств, что ИИ имеет революционные преимущества в плане производительности. В реальной экономике ничего особо не поменялось. Нам по-прежнему нужны радиологи (даже больше, чем раньше), журналисты, юристы, бухгалтеры, офисные работники и водители. Ранее я прогнозировал, что в ближайшее десятилетие ИИ заменит не более 5% человеческой работы. Нужно гораздо больше времени, чтобы ИИ научился рассуждать, многомерно мыслить и обрел социальные навыки, необходимые для большинства профессий, а также чтобы технологии ИИ и компьютерного зрения (технология создания машин, которые могут производить обнаружение, отслеживание и классификацию объектов) продвинулись настолько, чтобы их можно было объединить с роботами для выполнения высокоточных физических задач (например, в производстве и строительстве).

Конечно, любые прогнозы всегда могут быть ошибочными. Учитывая, что эксперты отрасли все больше говорят об ускорении темпов развития ИИ, возможно, судьбоносные прорывы в этой области произойдут раньше, чем ожидалось. Но в истории ИИ слишком часто звучали амбициозные предположения, которые затем не сбывались. В середине 1950-х годов [американский ученый], «дедушка ИИ» Марвин Минский предрекал, что всего за несколько лет машины превзойдут человека. Когда этого не произошло, он остался непреклонен. «В ближайшие годы — от трех до восьми — мы получим машину с интеллектом среднего человека. Я имею в виду машину, которая сможет читать Шекспира, смазывать автомобиль, соблюдать офисную политику, рассказывать анекдоты, ругаться. В этот момент машина начнет самообучаться с фантастической скоростью. Через несколько месяцев она достигнет уровня гения, а еще через несколько месяцев ее способности будут неисчислимы», — все еще настаивал он в 1970-х.

Во время «зимы ИИ» (период в истории исследований искусственного интеллекта, связанный с сокращением финансирования и общим снижением интереса к проблематике) оптимистичных прогнозов поубавилось. Повторится ли эта закономерность сейчас?

Безусловно, возможности генеративного ИИ значительно превосходят все, что было создано в отрасли ранее. Но это не означает, что предполагаемые сроки развития верны. Разработчикам ИИ выгодно говорить о скором революционном прорыве, чтобы стимулировать спрос и привлечь инвесторов.

Но даже при медленных темпах развития ИИ есть чего опасаться, потому что уже сейчас он может нанести существенный вред. Дипфейки, манипуляции с мнением избирателей и потребителей, слежка — лишь верхушка айсберга. Массовая автоматизация может быть запущена, даже если в ней не будет смысла. Например, есть работодатели, внедряющие ИИ без четкого представления о том, как это повысит производительность труда. Из-за шумихи вокруг ИИ многие компании чувствуют давление, вынуждающее их вскочить на этот путь, прежде чем они поймут, как конкретно ИИ может им помочь.

У моды на ИИ есть свои издержки. В нашем исследовании с экономистом Паскуалем Рестрепо мы показываем, что слабая автоматизация — худший из вариантов. Если ИИ не способен значительно повысить производительность труда, замена им человека в различных сферах деятельности будет приносить лишь страдания и никакой пользы. Если (в соответствии с моим прогнозом) ИИ заменит около 5% рабочих мест в течение следующего десятилетия, последствия будут несущественными. Но если, поддавшись ажиотажу, компании начнут использовать ИИ для тех видов работ, которые не могут быть выполнены машинами лучше, чем людьми, неравенство на рынке труда вырастет без компенсирующего роста производительности.

Поэтому мы не можем исключить худший из возможных вариантов, в котором ИИ не приведет мир к положительным преобразованиям, а спровоцирует кадровые перестановки, рост дезинформации и манипуляций. Это будет трагедией не только из-за негативных последствий, но и потому, что возможности будут упущены.

Будет куда лучше, если ИИ будет применяться для поддержки работников, защиты наших данных и конфиденциальности, улучшения нашей информационной экосистемы и укрепления демократии.

ИИ — это информационная технология. Будь то предиктивная форма (например, рекомендательные системы на социальных платформах) или генеративная (большие языковые модели), его функция заключается в просеивании огромных массивов информации и выявлении релевантных закономерностей. Эта способность — идеальное противоядие от того, что нас беспокоит. Мы живем в эпоху изобилия любой информации, но дефицита полезной. В интернете можно найти все, что угодно (а также многое из того, что вам не нужно), но сложно найти то, что необходимо для конкретной цели.

Полезная информация способствует росту производительности труда, и, как утверждают профессора MIT Дэвид Аутор, Саймон Джонсон и я, в современной экономике она как никогда важна. Многим профессиям — от медсестер и педагогов до электриков, сантехников, рабочих и других современных ремесленников — мешает отсутствие конкретной информации и подготовки для решения все более сложных проблем. Почему некоторые студенты отстают? Какое оборудование и транспортные средства нуждаются в упреждающем техническом обслуживании? Как обнаружить неисправности в таких сложных изделиях, как самолеты? Именно такую информацию может предоставить ИИ.

Используя ИИ для решения таких проблем, можно добиться гораздо большего роста производительности, чем того, который я прогнозирую. Если ИИ будет использоваться для автоматизации, он заменит работников; если же он будет использоваться для предоставления работникам более качественной информации, это повысит спрос на их услуги, а значит, и их заработок.

К сожалению, на этом пути нас подстерегают три грозных препятствия. Первое — это зацикленность на AGI. Мечты о сверхразумных машинах заставляют индустрию игнорировать реальный потенциал ИИ как информационной технологии, которая может помочь работникам. Точные знания в соответствующей области — вот что важно. Но это не то, во что инвестирует промышленность. Чат-боты, способные писать шекспировские сонеты, не помогут электрикам выполнять новые сложные задачи. Но если вы искренне верите, что AGI уже близко, зачем помогать электрикам?

Проблема не только в одержимости AGI. Общий принцип заключается в том, что инструменты должны делать то, что человек не умеет делать эффективно. Именно это делают молотки и калькуляторы, и именно это мог бы делать интернет, если бы его не испортили социальные сети. Но в технологической индустрии доминирует противоположная точка зрения, которая основана на том, что технологии могут заменить человека, а не дополнить его работу. Отчасти это происходит потому, что многие лидеры в этой нише недооценивают человеческий талант и преувеличивают его ограниченность и склонность к ошибкам. Очевидно, что люди совершают ошибки, но они также привносят в каждую задачу уникальное сочетание перспектив, талантов и когнитивных инструментов. Нам нужна парадигма индустрии, которая, вместо того чтобы восхвалять превосходство машин, подчеркивала бы их величайшую силу: дополнение и расширение человеческих возможностей.

Второе препятствие — недостаточные инвестиции в человека. ИИ может расширить права и возможности человека только в том случае, если мы будем вкладывать столько же средств в обучение и развитие навыков. Инструменты ИИ, дополняющие работу людей, ничего не дадут, если большинство людей не смогут ими пользоваться или не смогут получать и обрабатывать информацию, которую они предоставляют. Людям потребовалось много времени, чтобы понять, как управляться с печатным станком, радио, телевидением и интернетом, но с ИИ дело пойдет быстрее.

Единственный способ добиться того, чтобы люди получали пользу от ИИ, а не были одурачены им, — инвестиции в подготовку людей и образование. Нам нужно научить студентов и работников сосуществовать с ИИ и использовать его инструменты грамотно.

Третий барьер — бизнес-модели в индустрии технологий. ИИ не станет совершенным, если компании не будут в него инвестировать. Сейчас доминирующие на рынке компании сконцентрировались на AGI и приложениях, заменяющих человека и манипулирующих им. Огромная доля доходов отрасли приходится на цифровую рекламу (основанную на сборе обширных данных о пользователях и привлечении их к платформам и их предложениям), а также на продажу инструментов и услуг для автоматизации.

Но новые бизнес-модели вряд ли появятся сами по себе. Компании, занимающие лидирующие позиции, построили огромные империи и монополизировали ключевые ресурсы: капитал, данные, таланты. Из-за этого начинающие игроки оказались в невыгодном положении. Даже если кто-то из них прорвется вперед, его, скорее всего, купит один из технологических гигантов и бросит тем самым вызов его бизнес-модели.

Суть в том, что нам нужна программа борьбы с ИИ, направленная на защиту человека. Для этого нам понадобится новый нарратив в медиа, политических кругах и гражданском обществе, а также гораздо более совершенные нормативные акты и политические меры. Правительства могут помочь изменить направление развития ИИ, а не просто реагировать на возникающие проблемы. Но сначала политики должны признать наличие проблемы.