Мы все чаще просим ИИ «докрутить идею», «поправить стиль» или «набросать план». Но что, если за каждую сэкономленную минуту мы расплачиваемся собственной индивидуальностью и когнитивными способностями? Если текст вокруг нас становится все более унифицированным — что произойдет с языком, на котором мы говорим, и в конечном итоге с нашим мышлением? Пересказываем, что об этом пишут исследователи и журналисты, анализирующие технологические тренды.
Mikalojus Konstantinas Čiurlionis, Hymn
Все чаще люди из самых разных сфер пользуются ИИ для решения личных и рабочих задач: они не только проверяют свои тексты, но и просят ИИ генерировать идеи, структуру, темы и ключевые тезисы для своих отчетов, эссе и писем. В этом легко увидеть лишь еще один инструмент, помогающий нам быть более продуктивными и позволяющий сосредоточиться на более ценных задачах, пишет Пол Хардисти в своем блоге на Substack. Однако «в результате каждого из этих решений, повторяемых миллионы раз в день по всему миру, голос отдельного человека умолкает, уступая место ультрагомогенизированной безликой массе больших языковых моделей», полагает он.
Способность формулировать и выражать сложные и важные идеи так, чтобы это было убедительно и понятно нашим собратьям-людям, — одна из определяющих характеристик цивилизованного человека, пишет автор. И это навык, оттачиваемый всю жизнь. Если же вы прекращаете практиковаться, вы быстро теряете форму, и вскоре обнаруживаете, что ваши мышцы атрофировались, и даже то, что раньше было простым, дается с трудом, предостерегает Хардисти: «Разрушьте способность думать, формулировать, а затем записывать свои идеи — и выражать их устно станет ощутимо сложнее».
По его словам, ИИ не просто лишает нас способности использовать язык и аутентично выражать свою индивидуальность. Генерация идей с помощью ИИ лишает нас возможности создать что-то действительно новое или оригинальное. Поскольку ИИ с молниеносной скоростью прочесывает все, что находится в свободном доступе онлайн, мы получаем обратно то, что уже создали другие.
Похожие тенденции происходят и в академическом мире. Некоторые исследователи заметили, что все больше испытывают чувство дежавю, просматривая научные работы. Всему виной искусственный интеллект, считают они: поскольку люди все больше полагаются на большие языковые модели (LLM), их тексты становятся все более похожими. Об этом пишет Мэттью Хатсон в журнале Nature.
Рассылка Школы гражданского просвещения
Ученые полагают, что генеративный ИИ таким образом «может гомогенизировать как культуру, так и познание». И, в отличие от предыдущих технологий, которые лишь распространяли информацию, генеративный ИИ активно ее формирует. Более того, «есть свидетельства того, что технология может даже влиять на решения, которые мы принимаем, на то, как мы действуем, и на мнения, которых мы придерживаемся».
«Если мы все используем ИИ для написания своих электронных писем или чего-либо еще, кем мы станем как вид?», — цитирует журнал Эмили Венгер, специалиста в области компьютерных наук из США. Вместе с коллегой она провела исследование, в котором ИИ-моделям и участникам предлагалось назвать альтернативные способы использования обычных предметов. Выяснилось, что LLM выдавали идеи, которые были немного более оригинальными — более семантически отличными от вопроса, — чем идеи людей. Но ответы LLM были более похожи друг на друга, чем ответы людей.
Это подтверждается не только подобными экспериментами, но и другими исследованиями: так, изучение более 400 000 научных статей в базе данных Web of Science показало, что после выпуска ChatGPT в конце 2022 года количество статей на одного автора увеличилось, но также увеличилось и их сходство по содержанию и лингвистическому стилю.
Генеративный ИИ может приглушать и культурные различия: например, в одном исследовании людей в Индии и США попросили рассказать о любимых ритуалах, героях и ценностях. Одной половине давали подсказки ИИ, а вторая писала сама. Оказалось, что, полагаясь на подсказки нейросетей, люди из разных стран и культур начинают писать и выражать мысли одинаково стандартно: например, индийцы стали звучать более по-американски в своих формулировках, а яркие детали вымываются и становятся более обобщенными.
Более того, люди психологически «склонны следовать за LLM, потому что некоторые смотрят на нее либо как на представителя взглядов других людей, либо как на мудреца, который знает, как лучше», пишет журнал Nature. Вместе с тем, кажется, что культуры устойчивы «к тому, чтобы стать слишком гомогенизированными», — цитирует издание Альберто Ачерби, когнитивного антрополога из Трентского университета в Италии. Отдельные люди часто избегают конформизма и ищут уникальные ниши, а теперь становится все более распространенным явлением, когда люди избегают слов и фраз, которые они ассоциируют с LLM.
Журналистка и исследовательница новых технологий Афра Ванг задается вопросом: что происходит, когда мы узнаем, что другой человек или описываемый опыт искусственно сгенерированы LLM? «Нейрослоп ощущается как предательство. Возникает это жуткое чувство, когда ты наклоняешься к лицу и находишь лишь маску, за которой нет человека», — пишет она. Вероятно, поэтому люди стали одержимы прогоном читаемых текстов через различные детекторы для обнаружения текстов, написанных ИИ.
Впрочем, иногда вовсе необязательно использовать какой-либо сервис, чтобы распознать ИИ: некоторые формулировки слишком типичны для него. «Я нахожу это физически отвратительным; холодная дрожь, будто кто-то вылил желе мне за воротник. Я ненавижу, что это повсюду», — пишет Афра Ванг. Люди вынуждены быть начеку и оказываются истощены, подозревая ИИ за каждым предложением. Эти подозрения могут распространяться и на самих себя: Ванг признается, что «фанатично удаляет свои собственные тире, а однажды даже ошибочно подумала, что несколько предложений, написанных другом-писателем, были сгенерированы ИИ».
Склонность ИИ к шаблонам подтверждают и курьезные технические сбои: за последние пару месяцев последние пару месяцев в LLM было замечено непропорционально большое количество историй о маяках, часовщиках и библиотекарях — и в этих историях всегда фигурирует главный герой по имени Элиас Торн. «Это типичное явление коллапса модели — состояние сбоя, при котором модель выдает повторяющиеся результаты с низкой диверсификацией». Одно из предположений состоит в том, что на этапе настройки нейросеть приучают выбирать самые «безопасные» варианты. В итоге она избегает всего, что может вызвать проблемы (например, непристойного контента или нарушения авторских прав). ИИ обходит любые риски и выбирает только самые идеальные с точки зрения системы варианты.
Нас убеждают, что ИИ принесет нам процветание и интеллектуальный взрыв, что он со дня на день вылечит рак. И все же неудобная правда заключается в том, что ИИ все еще дает нам уплощенную прозу и плохие тексты, все больше унифицирует наши тексты, дизайн и все, что связано с человеческим выражением, и перекраивает наше мышление под себя, пишет Афра Ванг.
В Кремниевой долине и китайской ИИ-индустрии понятие «хороший вкус» (taste) стали продвигать как главное противоядие от усредненного контента ИИ. Предприниматели называют вкус «новым защитным рвом» и конкурентным преимуществом, а критики называют его очередным модным клише. Но Ванг считает, что этот продвигаемый «хороший вкус» очень скоро сам превратится в предсказуемый стандарт, посредственность и очередную формулу. Она цитирует писательницу Селин Нгуен: «Основная обязанность произведения искусства — тронуть меня, а не сделать себя понятным для меня». Разве великое мастерство может состояться в режиме, ориентированном исключительно на обход острых углов?
