Сегодня уже сложно представить себе сферу, которая не испытывает на себе влияния бума технологий ИИ (или его обсуждения). Эксперты подсчитывают, сколько рабочих мест сможет заместить ИИ; пациенты используют чат-боты вместо психотерапевтов; Netflix выпускает сериалы о том, как искусственный интеллект может вытеснить человека кинопроизводства. Однако слишком большая вера в нейросети может таить в себе серьезные ловушки, полагает философ, вице-президент Сбера и заведующий кафедрой инженерной кибернетики МИСИС Альберт Ефимов. В середине апреля он выступил на открытии Школы вычислительных социальных наук в Европейском Университете в Санкт-Петербурге. Собака.ru коротко пересказывает самые интересные тезисы его выступления.
О первой ИИ-ловушке
Благо ИИ для человека есть цель работы инженеров в компаниях. А вот философов должны заботить угрозы, которые привносят с собой технологии. Так, искусственный интеллект впервые в человеческой истории может знать о человеке больше, чем сам человек знает о себе. Обучившись на огромном массиве данных, ИИ дает возможность нам поговорить с документами, статьями, фильмами, книгами и даже данными. Однако мы попадаем в ловушку антропоморфизма, то есть приписывания машине свойств человека, которыми она не обладает.
Только что [в ходе презентации чат-бота, обученного отвечать на любые вопросы от лица известных ученых и писателей] мы были введены в заблуждение. Чат-бот, которого попросили отвечать от лица Адама Смита на вопрос о внеземной жизни, ушел от ответа. Это естественно, ведь в книгах великого экономиста Смита, [загруженных в модель], ничего по этому вопросу нет. Но если бы мы задали этот вопрос реальному Адаму Смиту, образованному англичанину, жившему в первой половине XIX века, то он сказал бы нам совсем другое.
Он исходил бы из тех знаний, которые у него были, а согласно им, конечно же, жизнь на Луне возможна; может быть, она присутствует и на Венере, ведь в те времена уже знали, что эта планета обладает атмосферой. По сути, ответ (или уход от ответа) является здесь необоснованным предположением большой языковой модели, которая лишь конструирует ответы чат-бота на основе документов из дата-сета.
Мы сразу предполагаем, что эта машина что-то знает про реального Адама Смита. Однако в действительности машина не опирается на достоверные данные об уровне знаний человечества про внеземную жизнь и астрономические познания английского джентльмена первой половины XIX века. Таким образом, перед нами встает проблема достоверности полученного знания — можем ли мы опираться на машину во всех ситуациях?
О второй ИИ-ловушке
Мы можем попросить языковую модель отвечать от имени Айн Рэнд, Алана Тьюринга и кого бы то ни было еще. Нам может показаться это веселым, но если мы уберем из этого уравнения громкие имена, которые мы сами дали чат-ботам, то что останется? Пустые цитаты, которыми полон интернет и на которые мы уже даже не обращаем внимания.
Мы получаем очень плоские ответы, такие же плоские, как картинки для [настольной игры] «Имаджинариум» (также рождаемые с помощью искусственного интеллекта). Это одна из фундаментальных проблем — мы смотрим на мир глазами больших языковых моделей и вместе с ними попадаем в ловушку… не знаю, как лучше сказать… ловушку «плоскостности». Чрезмерная опора на ИИ делает нас чрезмерно обычными. Выдающийся философ Мераб Мамардашвили говорил, что мы должны заходить в конструкцию подлинного текста, чтобы оживить мысленные состояния, которые находятся за этим текстом. В текстах машины нельзя оживить ничего.
О третьей ИИ-ловушке
Конечно же, необходимо сказать еще об одной ловушке — ловушке эхо-комнаты, или, если угодно, ловушке монокультуры. [ИИ-сервис Google Gemini] Deep Research доступен всем, кто может заплатить за подписку. В моей аналитической команде, когда мы начинаем исследование, в проект сначала входит Deep Research, а потом команда [людей] — сейчас это уже нормальное явление. Однако это не значит, что мы можем выключать наши мозги. ИИ меняет работу исследователя и аналитика, радикально поднимая требования к интеллектуальной составляющей работы. Критическое восприятие текста и саморефлексия становятся основой выживания интеллекта.
В случае, если машины одинаково доступны всем, есть риск попасть в ситуацию «монокультуры» — это термин из сельского хозяйства. Что происходит, когда на поле высаживают только один вид? Растения начинают болеть. Именно поэтому участки засаживают разными злаками, чтобы создать многообразие. Многообразие возможно, только если мы думаем сами, предоставляя машинам лишь возможность быть нашими «умными карандашами».
О четвертой ИИ-ловушке
Есть еще один вызов всех методов современного машинного обучения. Надо понимать, что все они исходят из того, что уже сделано людьми и собрано людьми. Это все зеркала заднего вида. Есть технологии, которые позволяют обучать модели на синтетических данных. Но они не могут полностью заменить наш мир для обучения машин. Вообще, «искусственный интеллект» — очень плохой термин. Это слово-чемодан, в которое вкладывается большое число смыслов.
Сейчас мы испытываем серьезные проблемы с целеполаганием — нам бывает сложно формулировать по-настоящему долгосрочные цели на будущее. Мы пытаемся выполнить требования общества, которые постоянно меняются.
Некоторые гуру LLM (от английского large language model, т.е. большие языковые модели — прим. Собака.ru) говорят, что существующие сейчас модели — это ненадолго, а потом придет нечто совершенно иное. Другие эксперты не соглашаются. Я убежден, что нашей цивилизации нужны долгосрочные планы — на десятилетия, а возможно, и столетия. Иначе мы все время будем жить от шторма до шторма. Осознание этого — признак взрослости.
О возможностях, которые дает ИИ
Чтобы выйти из ловушки «вечного настоящего» нам важно формировать сообщества, экспертные группы для обсуждения и решения этих проблем. Я очень верю в силу сообществ. Создание площадок для обсуждения — важнейший фактор, с помощью которого мы можем двигаться вперед.
Говоря о стратегии… Мир капитализма — очень сложный и довольно неприятный для нас всех как потребителей, как граждан — претерпевает огромные изменения. Прямо у нас на глазах.
Гармоничное, правильное использование технологий даст нам возможность лучше использовать финансовые услуги, технологии для достижения блага общества и блага каждого человека отдельно. Эта задача достижима с помощью искусственного интеллекта, и я в это глубоко верю.
Комментарии (0)