«Сходства между людьми и машинами столь же поразительны, как и различия»

Размышляя о технологии с почти бесконечным потенциалом, эксперты не могут прийти к согласию даже по базовым вопросам о том, что она означает для человечества — будут ли это незначительные изменения или же полный крах с катастрофической потерей рабочих мест, пишет Себастьян Маллаби. А в вопросе о том, угрожают ли системы ИИ самим людям, а не только их средствам к существованию, «поляризация мнений столь же головокружительна».

«Столкнувшись с столь ошеломляющими расхождениями и размышляя о технологии, которая кажется непостижимой по своим масштабам, люди обращаются к лексикону, существующему для описания тайны: лексикону религии», — пишет Себастьян Маллаби. Причем, отмечает он, так делают и сами инженеры, близкие к разработке ИИ. Так, столкнувшись с ранним чат-ботом, который казался зловеще разумным, инженер Google Блейк Лемойн написал: «Кто я такой, чтобы указывать Богу, куда Он может и не может помещать души?» А Илья Суцкевер, сооснователь и бывший главный научный сотрудник OpenAI, однажды собрал своих коллег у костра во время корпоративного выезда. Держа в руках чучело, он объяснил, что оно символизирует ИИ, чуждый интересам человека. Затем он бросил его в огонь, словно средневековый священник, сжигающий ведьму.

Неудивительно, что и сама церковь не осталась в стороне этого водоворота, пишет журналист — и переходит к разбору первой энциклики папы Льва XIV, которая посвящена искусственному интеллекту.

Так, по мнению папы, люди и машины принципиально различаются. Системы ИИ «лишь имитируют определенные функции человеческого интеллекта», говорится в энциклик, и «даже когда эти инструменты описываются как способные к „обучению“… это не опыт тех, кто позволяет жизни формировать себя и растет со временем через выбор, ошибки, прощение и верность».

Конечно, «люди не хотят быть порабощенными машинами и не хотят сливаться с ними», полагает Маллаби. Но утверждение о том, что системы ИИ «лишь имитируют» человеческий интеллект, легко подвергнуть сомнению: «В конце концов, люди тоже имитируют интеллект: дети учатся у своих родителей, а профессора осваивают учения предшествующих ученых. Более того, если машина может синтезировать знания, убедительно вести беседу, анализировать медицинские снимки и блестяще сдавать экзамен на адвоката, в каком смысле она не является интеллектуальной?»

Маллаби вспоминает мысленный эксперимент Джона Серля «Китайская комната», проведенный в 1980 году, который доказывает, что симуляция интеллекта не равна его наличию. В эксперименте человек отвечает на китайские иероглифы строго по инструкции: он создает идеальную иллюзию владения языком, абсолютно не понимая смысла своих ответов. Таким образом, напрашивается вывод, что ИИ может успешно пройти тест Тьюринга, механически подбирая верные результаты по алгоритму, но не обладать при этом настоящим разумом и пониманием.

Этот эксперимент был убедительным в годы, предшествовавшие современной революции ИИ, полагает автор, но сегодняшние большие языковые модели по завершении обучения «выходят с точным пониманием смысла». «Большая языковая модель работает с word embeddings, то есть внедряет получаемых слов в карту с тысячами измерений. Людям, привыкшим жить в трех измерениях (или четырех, если учитывать время), невозможно визуализировать такую карту. Но компьютеры легко справляются с ними. На этой огромной языковой карте такое слово, как „компьютер“, находится близко к другим связанным словам, таким как „клавиатура“, „электричество“ и „полупроводник“. Таким образом модель осознает тонкие связи между каждым словом в языке и всеми остальными словами», — пишет Себастьян Маллаби.

И это, по его словам, только начало: «По мере того как системы ИИ осваивают язык, они начинают осознавать концепции. Такие слова, как „брат“, „отец“ и „племянник“, находятся ближе друг к другу на языковой карте, чем к „сестре“, „матери“ и „племяннице“, потому что системы понимают гендер. Когда определенные отрывки текста вызывают такие понятия, как „внутренний конфликт“, системы улавливают и их: в дополнение к карте слов они строят карту концепций, на которой „внутренний конфликт“ близок к „напряжению в отношениях“ или „логической неувязке“».

Модели также могут распознавать эмоции и улавливать чувства, подчеркивает он. Еще в 2017 году OpenAI выявила «нейрон тональности» (sentiment neuron) — отдельный узел в сети глубокого обучения модели ИИ, который определял, является ли эмоциональный окрас отзыва на Amazon позитивным или негативным. «Люди получают опыт через органы чувств, а затем преобразуют эти входящие сигналы в электрохимические. О системах ИИ, оснащенных камерами и микрофонами вместо глаз и ушей, точно так же можно сказать, что они получают опыт перед тем, как преобразовать его в числа», — пишет Маллаби.

Автор подчеркивает, что, конечно, ИИ существует не в моральной вселенной, а в матрице оптимизации. Из-за этих различий многие люди всегда будут настаивать на том, что у машин нет сознания — даже если определение этого термина размыто, — и что без сознания и качества опыта, которое оно дает, не может быть истинного интеллекта.

«Тем не менее, сходства между людьми и машинами столь же поразительны, как и различия. Человеческий мозг — это физический объект, состоящий из биологического материала, который подчиняется законам, управляющим остальной частью вселенной, включая компьютеры. Человеческий мозг, как и компьютерный, работает на слабых электрических токах; когда он формирует мнение или вынашивает план, он обрабатывает информацию. Идея о том, что вязкая масса внутри черепа содержит некую неописуемую, непрограммируемую сущность — сознание, дух или что-то еще — может быть интуитивно привлекательной. Но с аналитической точки зрения эта идея шатка. И она станет еще менее убедительной по мере дальнейшего развития ИИ», — рассуждает Маллаби.

Есть в энциклике и более устойчивый к критике тезис: ИИ необходимо регулировать, в том числе потому, что «порог агрессии может снизиться» из-за автоматизации войн. Маллаби согласен, что поводов для беспокойства достаточно. Есть веский аргумент в пользу того, что смертоносные системы ИИ должны быть подконтрольны; но едва ли, по его мнению, это может быть реализовано на практике: «Как только ИИ сможет принимать быстрые и точные решения на поле боя, его использование станет неизбежным. Армия, которая от него откажется, будет разгромлена той, которая его примет», — объясняет он.

По мнению Маллаби, энциклика упускает из виду несколько важных моментов. Например, необходимость создания эквивалента Договора о нераспространении ядерного оружия для ИИ. «Ни один из видных лидеров не объяснил, что будут делать правительства, когда самые пугающие возможности ИИ распространятся по всему миру и станут доступны преступникам и террористам». Предотвращение такого исхода потребует от Соединенных Штатов согласования совместных принципов безопасности с Китаем и другими державами. Такие переговоры будут трудными.

Другой пример — налоговая реформа. Если роботы заменят людей, некому будет платить подоходный налог. Богатство страны уйдет IT-гигантам и владельцам бизнеса, а у государства не останется денег на помощь обедневшим и оставшимся без работы гражданам. При этом высокий подоходный налог еще больше подталкивает компании заменять рабочих машинами, ускоряя вытеснение и повышая уровень безработицы. Если собственные прогнозы индустрии ИИ о массовом сокращении рабочих мест окажутся верны хотя бы наполовину, налоги на труд, ускоряющие увольнения, заставят избирателей восстать против всего проекта ИИ. По мнению журналиста, уже сейчас можно было бы облагать налогами обучение передовых моделей ИИ и направлять полученные средства на дополнительные исследования в государственных институтах надзора за ИИ или университетах.

Степень, в которой алгоритмы ИИ генерируют эквивалент человеческих мыслей и чувств — это философский вопрос, который, возможно, никогда не будет решен, но понимание того, как именно работают системы ИИ — практическая и неотложная цель, уверен Себастьян Маллаби. «Машины никогда не войдут в нашу моральную вселенную, но если люди стремятся контролировать их, мы должны сначала их понять», — заключает автор.