Пандемия поставила ребром вопрос о несовершестве существующей в мире социально-экономической модели – заложенные в ней механизмы не способны предсказывать подобные глобальные кризисы и справляться с ними. Эксперты предполагают, что помощником человечества для предотвращения таких ситуаций может и должен стать искусственный интеллект, способный собирать и обрабатывать огромные массивы данных. Дмитрий Сошников, технологический евангелист Microsoft Россия, рассказал «Культуромании», может ли искусственный интеллект быть «сильным» или «слабым», как он учится и на что способен.
Пандемия поставила ребром вопрос о несовершестве существующей в мире социально-экономической модели – заложенные в ней механизмы не способны предсказывать подобные глобальные кризисы и справляться с ними. Эксперты предполагают, что помощником человечества для предотвращения таких ситуаций может и должен стать искусственный интеллект, способный собирать и обрабатывать огромные массивы данных. Дмитрий Сошников, технологический евангелист Microsoft Россия, рассказал «Культуромании», может ли искусственный интеллект быть «сильным» или «слабым», как он учится и на что способен.
- Что такое искусственный интеллект?
- Человек всегда хотел создать какое-то искусственное живое существо – вспомним хотя бы Пигмалиона. Однако возможностей для создания сложных систем всегда было недостаточно. C появлением компьютера ситуация несколько изменилась.
Искусственный интеллект (ИИ) – это в первую очередь раздел компьютерных наук, который изучает, как можно с помощью компьютера решать неалгоритмизуемые задачи, то есть такие, решение которых неочевидно. Например, каждый из нас может оценить возраст человека по его внешнему виду, но как именно мы это делаем, мы не знаем, и поэтому не можем запрограммировать. Здесь на помощь приходит машинное обучение, когда компьютер «сам учится» решать задачу на примерах. Сегодня мы уже можем создавать системы, по сложности соответствующие мозгу простых животных, при этом технологии постоянно и очень быстро развиваются.
- Применимы ли к ИИ те же определения, которые мы используем, когда говорим о человеческом интеллекте? Может ли он быть более сильным, или слабым, или более развитым по сравнению с другими?
- Вопрос «сравнения» интеллектов очень сложный, поскольку мы точно не знаем, что же это такое. Мы только можем быть уверены, что человек таким интеллектом обладает. А вот, например, если спросить, является ли кошка интеллектуальной, то мы получим разные ответы, примерно 50/50. Существуют специальные термины «сильный» и «слабый» ИИ.
Слабый ИИ – это программы, которые решают вполне практические задачи вроде определения возраста по фотографии. Это может быть полезно, например, для анализа среднего возраста аудитории мероприятий. Такой ИИ способен решать одну четко обозначенную задачу и никоим образом не «конкурирует» с человеком.
Сейчас ученые работают над «сильным ИИ», который еще называют AGI, Artificial General Intelligence. Этот интеллект будет способен решать широкий круг задач и будет более приближен к человеческому, так как мы, люди, постоянно анализируем и реагируем сразу на множество постоянно изменяющихся факторов.
- Человек может самостоятельно развивать свой интеллект. Может ли ИИ развиваться самостоятельно, или он полностью управляем человеком?
- Большинство технологий искусственного интеллекта сейчас – это машинное обучение, когда компьютер учится на наборах данных. По мере того, как данных становится больше, можно проводить повторное обучение модели, чтобы улучшать ее работу. Однако это целенаправленное улучшение, управляемое человеком. При этом все аналогии с тем, как учится человек, сохраняются. Например, человек может забыть какую-то книгу или фильм, и ему нужно будет их перечитать или пересмотреть. Точно так же и нейронная сеть «забывает» какие-то данные, показанные ей в начале обучения, поэтому обучение обычно проводят несколько (много) раз.
- Эксперимент Фила Харви, который проанализировал 19 пьес Шекспира с помощью разработанных компанией Microsoft инструментов, показал, что ИИ не воспринимает юмор, шутки, подтекст и двойной смысл. Есть ли возможность научить его этому, расширив обучающий набор?
- Эксперимент Фила Харви – на самом деле достаточно простое упражнение по анализу данных. Я недавно показывал студентам похожий эксперимент с анализом фотографий. Мы брали фотографии людей с разных мероприятий – с конференций, студенческих школ – и при помощи когнитивных сервисов Microsoft извлекали данные о поле, возрасте и так далее. В результате эксперимента мы получили вывод, что женщины более счастливы, чем мужчины – примерно на треть. И кстати, эта тенденция наблюдалась вне зависимости от конкретных фотографий.
Можно ли при этом утверждать, что женщины действительно более счастливы? Или они выглядят более счастливыми? Или же это специфика того набора данных, на котором обучалась нейросеть? На самом деле проблема правильного подбора данных для обучения очень сложна, и если взять несбалансированные данные, то в результате сетью, скорее всего, будут получены необъективные результаты. Возможно, при обучении сети на распознавание эмоций в наборе было больше женщин-моделей (которые часто улыбаются) и мужчин-спортсменов (которые суровы и серьезны), и поэтому пол оказал такое влияние на счастье.
Что касается юмора, то нейросеть способна находить зависимости в данных иногда лучше людей. Но чтобы находить сложные зависимости, нужно очень много данных. Человек скорее всего не поймет большой процент шуток на неродном для него языке, потому что он не видел каких-то фильмов и не читал книг. И если распознавание юмора – сложная задача для человека, то и для нейросети она тем более непроста.
- Удалось ли кому-нибудь, используя ИИ, получить новые знания о мире, людях, произведениях искусства?
- ИИ – это потрясающий источник новых знаний! Самое главное знание, которое в перспективе он откроет перед нами, – это более глубокое понимание себя, нашего внутреннего устройства.
Практических примеров тоже много. Один из проектов, который делали мои коллеги из США, – отслеживание популяции чаек-моевок на Аляске с помощью нейросети. Посчитать количество птиц вручную нереально, однако нейросеть с этой задачей справляется хорошо, что дает нам новые знания о популяции животных. Также ИИ используется для поиска скрытых зависимостей в доказательной медицине и во многих других областях.
Например, в этом году в рамках нашей ежегодной акции «Девочки в IT», которая проходит в марте и апреле и помогает привлечь внимание школьников к изучению точных наук, мы проводим обучающие видеоуроки, которые знакомят их с основными понятиями ИИ и машинного обучения, а в качестве практики позволяют создать свой когнитивный портрет. Для этого нужно взять несколько фотографий, нейросеть находит на них опорные точки – координаты глаз – и потом выравнивает все фотографии и накладывает их друг на друга, чтобы глаза совпадали. Получается очень интересный эффект, некоторая «усредненная» фотография человека или нескольких людей, где фон сам собой размывается и становится шумом, а черты лица проступают из него. Это простейшая идея, но с помощью автоматической обработки фотографий и манипуляций с ними можно создать ещё множество интересных выразительных эффектов.
- Уже сейчас приходится слышать, что какой-то товар – дизайнерская мебель, например, - изготовлен при помощи ИИ. Возможно ли это или производители лукавят?
- Термин ИИ настолько широкий, что его можно применить практически везде. Возможно, использовалась модель машинного обучения, чтобы прогнозировать расход материалов для изготовления той же мебели – при этом формально можно сказать, что ИИ использовался, однако это, конечно же, не означает, что мебель была целиком придумана искусственным интеллектом. Или же для оформления мебели использовали искусственно сгенерированные узоры.
- Может ли ИИ создавать произведения искусства?
- Это сложный и дискуссионный вопрос, которому в ближайшее время будет уделяться большое внимание в связи с развитием технологий. Многие слышали про картину, нарисованную ИИ, которая была продана на аукционе за более чем 400 тысяч долларов. Но этот ответ не настолько прост, как кажется. За что коллекционер платил деньги? За само произведение или за право считаться «первым, кто приобрел работу, созданную ИИ»? Как и в случае с Coca Cola или Pepsi – значительную часть стоимости продукта составляет бренд. Ценна не столько сама картина, сколько стоящая за этим история – а такую историю создаёт человек.
Для того, чтобы получить хороший результат, человеку нужно было подобрать правильный датасет, затем провести много времени, разрабатывая модели, и наконец, отобрать из сотен получившихся результатов лучший. Именно человек является носителем знания о том, что является «красивым», а что - нет с точки зрения искусства. Точнее даже не знания, а некоторого понимания, интуиции. ИИ пока не способен к интуиции.
Поэтому нейросеть можно рассматривать как инструмент, который делает сам большую часть работы. Нейросеть, рисующая картину, на основе примеров сначала научилась тому, какие существуют способы нанесения линий (штрихи, мазки краски), затем - как складывать эти низкоуровневые элементы в более крупные детали (нос, глаза, рот – в случае с портретом). Примерно так же, как ребенок, который учится распознавать объекты в мире, а затем воспроизводить их на бумаге.
И уже потом нейросеть комбинирует полученные ею фрагменты знаний случайным образом, чтобы получить результат. Примерно так же, как художник комбинирует где-то увиденные им фрагменты работ и манеру рисования для выработки своей. Только, в отличие от нейросети, художник изначально обладает вкусом. А нейросеть – нет, и поэтому нуждается в художнике, который отберет лучшие экземпляры.
- В начале прошлого века была очень популярна тема бунта машин. Многие писатели использовали этот сюжет в своих романах. Может ли ИИ однажды взбунтоваться против человека, перестать ему подчиняться или даже вступить с ним в конфликт?
- Важно понимать, что ИИ (по крайней мере сейчас и в обозримом будущем) не обладает какой-то внутренней «зловредностью» или «доброжелательностью». Это просто некоторый умный способ обобщить те данные, на которых он учился. Мощный инструмент, который человек может использовать как для чего-то доброго, так и «во зло». И поэтому, безусловно, есть опасности в развитии ИИ, как и в развитии других технологий, но мы, как всегда, надеемся, что здравый смысл и добро восторжествуют.
Именно поэтому мы считаем, что доверие к ИИ должно формироваться уже на этапе проектирования, а продукты разрабатываться с учетом строго определенных этических рамок. Над нормами, связанными с развитием искусственного интеллекта, совместно работают Microsoft, Google, Facebook, Apple, IBM и другие. Конфиденциальность данных, моральный статус систем ИИ и распределение ответственности в случае возникновения проблем — это те вопросы, которым технологические компании уделяют сейчас очень большое внимание.
Кроме того, Microsoft создала комитет по этике искусственного интеллекта, инженерных и исследовательских проектов. Мы надеемся, что это поможет проложить путь к общей структуре принципов для управления системами нового поколения с поддержкой искусственного интеллекта, гарантируя, что они используются этически и ответственно для блага всего мира.
- Видите ли вы какие-либо этические проблемы во взаимодействии ИИ и человека?
- Думаю, наиболее яркий пример из этой области – дилемма беспилотных автомобилей, которые должны в критической ситуации принимать решение, кого спасать в первую очередь. И нет универсального решения, как поступать в этом случае. Один из подходов, предложенный исследователями из MIT, – это Moral Machine, когда всем желающим предлагается на сайте проголосовать за то, как должен вести себя ИИ в конкретной ситуации на дороге. С помощью этого мы сможем заложить в ИИ понятия о морали, которые примерно соответствуют человеческим.
Татьяна Филиппова
2024 Все права защищены
