Только мы привыкли к бумерам, зумерам и миллениалам, как появилось новое поколение. На этот раз — альфа, те, кто родился после 2010 года. Какими и в каком мире вырастут наши дети? И что будут думать о нас, родителях? Об этом подробно рассказывает наш блогер Елена Кулешова.

Я рискнула представить, каким будет мир, когда нынешние десятилетки станут взрослыми. Случится это лет через пять-шесть: раньше им просто никто не даст, а с этого рубежа — никто не остановит. И, знаете, это ведь будет уже 2025 год. К 2030 мы уже будем, как сурок Фил, пугаться собственной цифровой тени. А в 2045 году окружающая нас действительность изменится очень сильно. Надеюсь, я не только это увижу, но и проживу в ней еще лет так 30, чтобы увидеть поколение-β и следующие за ним.

Поколение альфа — вы слышали о таком? Это дети, которые придут на смену «зумерам», дети, о которых я предпочитаю думать, как о «детях дождя» из «Гадких лебедей» братьев Стругацких. Я не считаю, что только и исключительно на них стоит сконцентрировать внимание системы образования. Наоборот, они этого внимания не требуют, им и система образования наша не очень-то требуется. Зато мы должны присмотреться к себе.

Технологии важнее знаний

Нас, поколение Х, с детства учили, что знания — это главное. «Кто владеет информацией, тот владеет миром». Да ничего подобного! Обладающие потрясающими знаниями учёные-эрудиты, исследователи, опытные специалисты по сравнению с ютуб-блогерами — неизвестные и неоценённые работяги. Люди с потрясающими инсайдами могут так и остаться с ними наедине, если у них нет канала распространения информации. Более того, любая инновация, согласно расхожей фразе, имеет срок жизни банана: сегодня ты придумал идею и решил её обдумать, а завтра встречаешь своё изобретение в магазине.

Искусственный интеллект (которого нет, а есть ряд технологий, но это сейчас неважно) меняет нашу жизнь как ветер: холодает — мы инстинктивно кутаемся в плед. Появляется Алиса или Алекса, мы быстро к ней привыкаем и даже скучаем по общению, если нет сети. Нетфликс у нас, беспилотники Яндекса — и много чего ещё Яндекса, начиная от Яндекс.Дзена, народного СМИ, заканчивая Яндекс.Практикумом, Яндекс.Лицеем и т. д.

Если искусственный называется AI — Artificial Intelligence, то эмоциональный — EI. Этому машина научиться не в состоянии, так что порыдать на плече любимого домашнего андроида нам не светит как минимум лет триста, а то и пару тысяч. И вот он-то, эмоциональный интеллект, станет мерилом человека и его человечности. Боюсь, что измерять будем не мы, измерять будут нас. И вот как это произойдёт.

Опыт и возраст больше ничего не значат

Булгаковский мастер конферанса из Варьете Жорж Бенгальский страдал распространённым пороком: он лгал. Вернее, говорил то, что как он думал, должно потрафить почтеннейшей публике. За что впал в немилость у свиты Воланда: если помните, Бегемот оторвал Жоржу голову.

Такого сценария я не предвижу, конечно, в общении детей-альфа и старших поколений. Будет, скорее, неприятие нашей лжи, стремления выкрутиться, чтобы не попасть под гильотину общественного мнения и увольнения. Наши дети не поймут лживого душевного надрыва, психологического насилия, субъективного осуждения, двойных стандартов.

Нам придётся тяжело. Да и уже приходится. Например, помните, раньше седины и опыт давали как бы карт-бланш: человек уже всего достиг и может учить, а самому ему учиться и не надо вовсе. Сейчас кто не учится — тот падает, тащится в хвосте, вскрикивая от ужаса своего положения. А уж что касается требований к морали и этике…

Знаете, сколько при мне было звонков пожилых педагогов более молодым с просьбой объяснить, как подключиться к конференции в Zoom или подписаться на паблик на YouTube? Тьма. Думаете, потому что пожилые учителя уже ничего не соображают? Отнюдь! Память у них и острота мышления прекрасны. Только вот лет так тридцать назад они перестали учиться, полагая, что всё это не их сфера и вообще баловство, да и не пригодится. И ошиблись в оценках. У нас, знаете ли, футурологов признают в России только в виде научной фантастики. А остальное — томление духа, мечтания и прожектёрство. Неумение — и боязнь даже — заглянуть в глубину будущих лет подавалось долгие годы как практичность, надёжность и крепкая укоренённость в настоящем.

Критическое мышление и никаких дипломов

Эмоциональный интеллект — это некий набор навыков, который позволяет распознавать и понимать чужие эмоции и намерения, а также контролировать свои, чтобы решать практические задачи. Миллениалы, которые сейчас занимают главенствующую позицию в обществе, этого навыка, кажется, вовсе лишены. Даже больше бумеров.

Ждать сочувствия или понимания от работодателя-миллениала не надо: в его конструкции, как правило, отсутствует этот слот как «нерациональный»

Но эмоциональный интеллект — не единственное, что будет отличать этих детей от остальных поколений. Они вернут к жизни почти угасшее у иксов и миллениалов критическое мышление. Они будут меньше времени тратить на оценку ситуации (около секунды против 8 секунд у «зумеров»). Будет стыдно оценивать человека по внешнему виду, полу, возрасту: те безобразные кампании травли «толстых», «баб», «нерусских», «старпёров», «блондинок» которые сейчас наблюдаются сплошь и рядом, станут неприличными. А у нас это, коллеги, чуть ли не национальный спорт — как превозмочь-то, как пересилить?

Высокие моральные стандарты, цифровая грамотность с пелёнок, любовь к родителям, ценность естественности и индивидуальности — это черты, которые называются характерными среди черт детей-α. От себя добавлю, что они наполовину будут жить в реальном, наполовину — в цифровом мире, особенно его не разделяя. Будут создавать (и уже создают) «быстрый контент»: искренние, цепляющие вещи, которые по спросу кратно перекрывают тщательно спланированные стратегии миллениалов. И, как я думаю, они уйдут от идеи непременного получения диплома о высшем образовании. Просто не станут учиться в университете, да и всё.

Вузы на первом этапе модификации образования поделятся на провинциальные, профильные и элитные и в сумме займут, наверное, 50% от числа выпускников. Остальные будут учиться тому, чему захотят и сразу прикладывать знания к решению практических задач. Не знание ради знания, не практика ради практики, а знания ради практического решения. В этом существенная разница: они будут до ужаса практичны и рациональны, при этом — эмоциональны, эмпатичны, открыты, в меру доверчивы и готовы к совместному творчеству.

Для нового поколения мир будет всегда открыт

Компания Twitter предложила сотрудникам, которые не хотят ездить в офис, оставаться дома и работать оттуда. Да, навсегда, а не только во время коронавируса. Треть работников в США — фрилансеры, лет через 15 их будет не меньше половины. Почему? Да потому что важно то, что внутри человека — его личность, привычки, компетенции, работа его и знания. И совершенно не важно, как он выглядит, что ест и с кем спит. Дико, да?

Особенно для эйчаров, которых, я надеюсь, быстро и массово заменят нейросети, которым неинтересен, к примеру, возраст соискателя. Или его лишний вес и цвет кожи. А ещё нейросеть найдёт все цифровые следы и составит точный портрет соискателя, не удовлетворяясь страницей резюме.

По прогнозам, дети-α сменят в среднем 5 профессий и 20 работ за всю жизнь. Им не нужно будет, как зумерам, пересекать Анды и Альпы, чтобы «открыть мир». Мир всегда будет открыт для них, не говоря уже о потоке знаний, который формирует сейчас мировая система образования. Сотни тысяч курсов, электронные цифровые сертификаты, онлайн-обучение, самостоятельный подбор траектории — всё это, как молодой жеребёнок, растёт, готовится и ждёт своих первых настоящих седоков.

Давайте признаемся: мы далеко не всегда успеваем за детьми. Те, кто постарше, кому сейчас 35+, так и не научились в массе своей признавать первенство детей в технологиях. И свои ошибки, и свою некомпетентность — тоже.

Людям определённого склада, скажем так — традиционалистам, в какой-то мере, очень неприятно осознавать своё выпадение из обоймы. Поэтому вокруг так много статей о бездуховности молодёжи, позитивных сторонах домостроя и патриархата, разлагающих мозг гаджетах, сатанинской чипизации и искусственном интеллекте, который захватит мир.

Не захватит, причин для волнения нет. По крайней мере, примерно пару тысяч лет мы может не суетиться по этому поводу. Остановить процесс появления «гадких лебедей» невозможно. Мы можем только попытаться вогнать этих детей в свои рамки, в меру разумения: и отрезать им белые лебединые крылья. Вот только как смотреть им потом в глаза?

И, предвижу возражения, что, мол, «дети одинаковы во все времена». Да, так и есть. Во все времена дети умеют мечтать и надеяться, в этом они одинаковы. Опалённые жизнью взрослые стараются уберечь детей от ошибок и стараются направить их на те тропы, по которым прошли безопасно сами — дорогой из красных вешек. Только дети хотят идти совсем другой дорогой, и у каждого поколения эта дорога своя, потому что предыдущие поколения изменяют ландшафт — и с каждым веком это происходит всё быстрее и всё масштабнее.

Пусть идут свободно. История — это анизотропное шоссе, дорога в одну сторону. И возврат невозможен.

Источник: mel

Люди обеспокоены тем, что искусственный интеллект и роботы уничтожат рабочие места, нарушат привычный уклад жизни и когда-нибудь развалят всю экономику. В ожидании подобного развития событий несколько стран, включая Канаду, Индию и Финляндию, экспериментируют с идеей “всеобщего базового дохода” — безусловного денежного пособия от правительства для поддержания уровни жизни независимо от того, получаете вы зарплату или сидите без работы. Но мое внимание привлекло нечто иное, о чем люди не говорят — быстрая демонетизация стоимости жизни. Иными словами, с течением времени становится все дешевле и дешевле обеспечивать наши базовые потребности. Благодаря экспоненциальному развитию технологий стоимость жилья, транспорта, пищи, здравоохранения, развлечений, одежды, образования и тому подобного продолжит снижаться, устремляясь к нулю. В этой статье я хочу изучить, как люди тратят свои деньги сейчас, и как “технологический социализм” может демонетизировать нашу жизнь.

Как мы тратим сегодня

Потребительские привычки по всему миру довольно однородны. Где бы мы ни жили, мы обычно тратим деньги на одни и те же базовые продукты и услуги. Давайте взглянем, как потребители тратят свои деньги в трех крупных странах — Соединенных Штатах, Китае и Индии. В 2011 году 33% среднего дохода американской семьи было потрачено на жилье, еще 16% на транспорт, 12% на еду, 6% на здравоохранение, и 5% на развлечения. То есть в совокупности более 75% расходов приходится именно на эти статьи. В Китае, согласно результатам недавнего исследования, общая тенденция аналогичная: питание, жилье, транспорт и хорошее самочувствие — это основные направления расходов. При этом почти половина расходов приходится на одежду и питание, а развлечениям уделяется пониженное внимание. В Индии преобладают расходы на питание, транспорт, а также различные товары и услуги. А вот затраты на аренду или покупку жилья и здравоохранение — это лишь небольшая часть в структуре трат. Эти различия отражают экономические, инфраструктурные и культурные особенности в каждой из трех стран, но в любом случае мы видим что большая часть расходов относится к семи главным категориям: транспорт, питание, здравоохранение, жилье, энергия, образование и развлечения. А теперь представьте себе, что могло бы произойти, если бы стоимость этих вещей резко снизилась. И такая перспектива — не из области фантастики.

Резкая демонетизация: что это такое

В данном случае под демонетизацией мы будем понимать способность технологического прогресса взять продукт или услугу, которые раньше были дорогими, и сделать их значительно дешевле, либо потенциально бесплатными. Деньги перестают быть частью уравнения.

Вспомните фотографию. Во времена Kodak это было дорогое удовольствие. Нужно было заплатить за фотоаппарат, за пленку, за проявку и так далее. Сегодня все изменилось до неузнаваемости: камера стала бесплатным дополнением к вашему телефону. Не нужно ни пленки, ни проявки — полная демонетизация.

Или возьмем такую сферу, как исследования. В прошлом сбор данных был трудным и затратным процессом — затратным по времени, если вы занимались этим сами, либо затратным по деньгам, если вы нанимали исследователей. Сегодня, в эпоху Google, информацию можно собирать бесплатно, а ее качество стало в тысячу раз лучше. Доступ к информации и инструментам для исследований полностью демонетизирован.

Коммуникационные приложения, такие как Skype или Google Hangouts, демонетизировали рынок видеоконференций и международной телефонной связи. Amazon демонетизировал книжную розницу, Craigslist — рынок частных объявлений,  iTunes — индустрию звукозаписи, Airbnb — отели. Список можно продолжать.

Демонетизация на миллион

В конце моей книги “Изобилие” (Abundance) есть таблица, в которой показано, как с помощью смартфона мы демонетизировали продуктов и услуг на $900 тыс. (цены на продукты, которые были выведены на рынок в период с 1969 по 1989 год, пересчитаны с учетом инфляции на 2011 год).

Двадцать лет назад наиболее зажиточные американские граждане могли позволить себе иметь фотоаппарат, видеокамеру, CD-плеер, стереосистему, игровую консоль, сотовый телефон, наручные часы, несколько комплектов энциклопедий, атлас мира и т.п. Cегодня все эти вещи бесплатны в вашем смартфоне. Странно, что мы не осознаем ценность этих вещей, когда они становятся бесплатными. Мы просто рассчитываем на них. Теперь давайте взглянем на упомянутые выше семь главных статей расходов и спроецируем, как они могут быть демонетизированы за одно-два следующий десятилетия.

1. Транспорт

Автомобильный рынок (емкость — $1 трлн) уже демонетизируется такими стартапами, как Uber. Но это лишь начало. Когда Uber представит свои полностью автономные сервисы, стоимость перевозок рухнет. Подумайте о том, какие составляющие, влияющие на цену перевозок, исчезнут. Когда все машины станут самодвижущимися, на дорогах не будет аварий, а значит, не нужно будет тратиться на страховку. Расходы на ремонт сократятся. Доставив вас в пункт назначения, автономный автомобиль сразу отправится обслуживать другого пассажира, так что парковка ему не нужна. А поскольку автомобили станут электрическими, мы сэкономим на топливе. В итоге стоимость поездок на авто будет в 5-10 раз ниже  по сравнению с сегодняшними затратами автовладельца. Такова будущая модель “автомобиль как услуга”.

2. Еда

Как я писал в книге “Изобилие”, стоимость продуктов питания упала в 13 раз за прошедшие столетие. Тренд на снижение сохранится. В США за последние 50 лет затраты на питание дома снизились более чем на 50%. Когда мы научимся эффективно производить продукты локально, с помощью вертикального фермерства, это станет дополнительным фактором снижения стоимости. Сейчас 70% в структуре конечной розничной цены продуктов питания приходится на транспортировку, хранение и сопутствующие затраты. Кроме того, с развитием науки мы научимся получать больше еды с каждого квадратного метра.

3.  Здравоохранение

Отрасль здравоохранения можно грубо разбить на четыре главные категории: диагностика, вмешательство или хирургия, уход за хроническими больными, медикаменты.

Диагностика. Искусственный интеллект уже продемонстрировал способность диагностировать рак лучше самых знаменитых докторов. Патологии выявляются на основе изучения изображений, анализа данных генома и гигабайтов фенотипологических данных. Причем себестоимость такой диагностики будет стремиться к стоимости потраченной электроэнергии.

Хирургия. Лучшими хирургами в мире будут роботы. Они смогут двигаться высокой точностью и получать картинку оперируемой области с высоким увеличением. Каждый робот-хирург будет иметь доступ  к данным миллионов предшествующих операций, проведенных роботами, получая преимущество перед наиболее опытными хирургами-людьми. Себестоимость операции тоже стремится к нулю.

Уход за хроническими больными и престарелыми. Здесь роботы тоже смогут создать наиболее экономичную альтернативу существующим сегодня услугам.

Медикаменты. Разработка и производство лекарств станут более эффективными с помощью искусственного интеллекта. Вероятно, уже в недалеком будущем специальный 3D-принтер сможет “напечатать” для вас идеальную таблетку, состав которой будет подобран с учетом ваших потребностей и анализов крови на текущий момент. Также стоит отметить, что стоимость геномного секвенирования резко снижается. Судя по этому графику, скорость обесценивания в пять раз быстрее, чем удешевление вычислительных мощностей в соответствии с законом Мура. Точное секвенирование позволит прогнозировать, какие заболевания, обусловленные наследственнностью, у вас с наибольшой вероятностью разовьются, и какое лечение может быть для вас наиболее эффективно.

 4. Жилье

Вы задумывались о том, что больше всего влияет на стоимость жилища? Почему квартира на Манхэттене стоит $10 млн, хотя жилье такой же площади на окраине Сент-Луиса можно купить за $100 тыс? Ответ очевиден — месторасположение. Людей привлекают густонаселённые престижные районы — там они оказываются рядом с рабочими местами и развлечениями. Рыночный спрос заставляет цены расти.

Демонетизация жилья произойдет по двум причинам. Во-первых, благодаря двум ключевым технологиям близость вашего дома к месту работы перестанет иметь такое огромное значение. А значит, вы сможете жить где угодно, в том числе там, где жилье дешевое. О каких технологиях идет речь? Одна из них — автономные автомобили. Подумайте сами — если время в пути от дома до работы вы можете потратить на то, чтобы читать, расслабляться, спать, смотреть фильм или проводить встречу, разве имеет значение, что вы провели в пути полтора часа? Другая технология — виртуальная реальность. Что произойдет, если ваше рабочее место — виртуальный офис, а ваши коллеги — аватары? Да вам попросту больше не надо никуда ездить. Вы проснулись, подключились к своему виртуальному рабочему месту, и работаете — находясь в это время хоть на ферме, хоть на экзотическом острове.

Еще одна причина ожидать падения стоимости жилья связана со снижением себестоимости строительства благодаря роботам-строителям и технологиям 3D-печати зданий. Сейчас ряд стартапов работает над тем, чтобы радикально сократить как расходы на строительство, так и время постройки. Например, в Китае компания WinSun методом 3D-печати создает целые многоквартирные дома.

 

Дом, созданный методом 3D-печати в Китае 

5. Энергетика

Количество солнечной энергии, попадающей на Землю в течение одного часа, в 5000 раз превышает количество энергии, которое все человечество использует за один год. Солнечной энергии в избытке по всему миру, причем беднейшие страны самые солнечные. Сегодня стоимость солнечной энергии упала до 3 центов за киловатт-час. Производство солнечной энергии продолжит демонетизироваться за счет повышения эффективности в результате новых научных открытий.

 

6. Образование

Во многих отношениях образование уже подвергалось демонетизации, поскольку большая часть информации, которую вы могли бы изучить в институте, уже доступна бесплатно онлайн. Coursera, Khan Academy, Гарвард, MIT и Стэнфорд — все эти учебные заведения предлагают тысячи часов качественного образования онлайн, доступного любому человеку на планете при наличии интернет-соединения.

Но это — лишь начало. В скором времени лучшими преподавателями в мире станут искусственные умы, обладающие детальным знанием способностей, потребностей, желаний и текущего уровня знаний своих студентов, и обучающие их именно тому, что им нужно, наилучшим способом и в идеальном темпе. В результате отпрыск миллиардера и ребенок бедняка будут иметь доступ к одному и тому же (самому лучшему) образованию, практически бесплатно.

7.  Развлечения

Такие виды развлечений, как  видеофильмы и компьютерные игры, исторически требовали существенных вложений в оборудование и услуги. Сегодня, с появлением сервисов потокового вещания музыки и видео (YouTube, Netflix и др.) мы наблюдаем взрывной рост количества доступного контента с одновременным появлением множества быстро демонетизируемых опций.

Питер Диамандис

Источник

Искусственный интеллект еще не способен понимать так же, как люди, и это может иметь катастрофические последствия.

Вы, наверное, слышали, что мы находимся в разгаре революции ИИ. Нам говорят, что машинный интеллект развивается с поразительной скоростью, опираясь на алгоритмы «глубокого обучения», которые используют огромные объемы данных для обучения сложных программ, известных как «нейронные сети».

Современные программы ИИ могут распознавать лица и записывать в текст устные предложения. У нас есть программы, которые могут обнаружить тонкое финансовое мошенничество, найти соответствующие веб-страницы в ответ на неоднозначные запросы, наметить лучший маршрут вождения практически к любому месту назначения, обыграть гроссмейстеров-людей в шахматы и го, а также переводить на сотни языков. Более того, автомобили с автоматическим управлением, автоматическая диагностика рака, роботы-уборщики и даже автоматические научные открытия становятся повседневным и привычным делом.

Основатель Facebook Марк Цукерберг недавно заявил, что в течение следующих пяти-десяти лет компания будет подталкивать ИИ к тому, чтобы «превзойти человеческий уровень во всех основных человеческих чувствах: зрении, слухе, языке, общем познании». Шейн Легг, главный ученый группы Google DeepMind, предсказал, что «искусственный интеллект на уровне человека будет пройден в середине 2020-х годов».

Как человек, который работал в области искусственного интеллекта в течение десятилетий, я была свидетелем провала подобных предсказаний о неизбежном искусственном интеллекте на уровне человека, и я уверена, что эти последние прогнозы также не оправдаются. Задача создания человеческого интеллекта в машинах остается крайне недооцененной. Сегодняшним системам ИИ крайне не хватает самой сути человеческого интеллекта: понимания ситуаций, в котрые мы попадаем, способности понять их значение. Математик и философ Джан-Карло Рота,  спросил: «Интересно, когда ИИ преодолеет барьер смысла?». Для меня это все еще самый важный вопрос.

Недостаток человеческого понимания машинами особенно хорошо проявляется в несоответствиях, укоренившихся в основах современного искусственного интеллекта. Хотя сегодняшние программы гораздо мощнее, чем имевшиеся 20 или 30 лет назад, но то и дело оказывается, что они ненадёжны, и эту ненадёжность человек не сможет предусмотреть.

Я приведу несколько примеров.

«Лысому мужчине нужна шляпа» в программе распознавания речи моего телефона расшифровывается как «Медведеголовый человек нуждается в шляпе».

("Лысый" на английском - bareheaded, "Медведеголовый" - bear headed)

 Переводчик Google переводит «Я поместил свинью в хлев» на французский язык как «Я положил свинью в ручку» ( «ручка »в смысле пишущего инструмента).

(На английском слова "хлев" и ручка" - омонимы ("pen").).

Программы, которые «читают» документы и отвечают на вопросы о них, могут быть легко обмануты, давая неправильные ответы, когда к документу добавляются короткие несоответствующие фрагменты другого текста. Точно так же программы, которые распознают лица и объекты, которые хвалят как главный триумф глубокого обучения, могут внезапно ошибаться, когда исходные данные незначительно искажаются, например, иным освещением, отбором изображений или другими изменениями, которые никак не влияют на способность человека к  распознаванию деталей.

Одно недавнее исследование показало, что добавление небольшого количества «помех» к изображению лица может сильно нарушить производительность современных программ распознавания лиц. Другое исследование , шутливо названное «Слон в комнате», показало, что вставка небольшого изображения неуместного объекта, такого как слон, в угол изображения гостиной, странным образом заставляла программы глубокого обучения визуального распознавания внезапно начинать неправильно классифицировать другие объекты во всей картинке.

Кроме того , программы , которые научились играть в определенную видео- или настольную игру на «сверхчеловеческом» уровне, полностью теряются, когда игра, которую они изучили, слегка модифицируется (цвет фона на экране видеоигры изменяется, виртуальное “весло” для удара “шариками” меняет положение).

Это лишь несколько примеров, демонстрирующих, что даже лучшие программы искусственного интеллекта могут быть ненадежны, когда они сталкиваются с ситуациями, которые даже в небольшой степени отличаются от того, на чем они обучались. Ошибки, допущенные такими системами, варьируются от безобидных и смешных до потенциально катастрофических: представьте, например, систему безопасности аэропорта, которая не позволит вам сесть на самолет, потому что ваше лицо перепутано с лицом преступника, или автомобиля с автоматическим управлением, который из-за необычных условий освещения не замечает, что вы собираетесь перейти улицу.

Еще более тревожными являются недавние демонстрации уязвимости систем искусственного интеллекта для так называемых состязательных примеров. В них злонамеренный хакер может вносить конкретные изменения в изображения, звуки или текстовые документы, которые, будучи незаметными или не относящимися к человеку, могут привести к тому, что программа допустит потенциально катастрофические ошибки.

Возможность таких атак была продемонстрирована почти во всех прикладных областях ИИ, включая компьютерное зрение, обработку медицинских изображений, распознавание речи и обработку языка. Многочисленные исследования показали, с какой легкостью хакеры могут обмануть системы распознавания лиц и объектов с определенными незначительными изменениями в изображениях, нанести незаметные наклейки на знак остановки, чтобы система зрения автомобиля с самостоятельным вождением ошибочно приняла его за выход, подписать или изменить звуковой сигнал так, чтобы он звучал как фоновая музыка для человека, но приказывал системе Siri или Alexa (аналог Spyware?) выполнить скрытую команду.

Эти слабые места иллюстрируют способы, которыми текущий прогресс в искусственном интеллекте блокируется барьером смысла. Любой, кто работает с системами ИИ, знает, что за гранью человеческих визуальных способностей, языковой беглости и игрового мастерства, эти программы не похожи на человека - они не понимают вводимые им данные или производимые ими результаты так, как это делает человек. Отсутствие такого понимания делает такие  программы восприимчивыми к неожиданным ошибкам и атакам, которые невозможно обнаружить.

Что потребуется для преодоления этого барьера, чтобы дать машинам возможность более глубоко понимать ситуации, с которыми они сталкиваются, а не полагаться на отдельные детали? Чтобы найти ответ, нам нужно обратиться к изучению человеческого познания.

Наше собственное понимание ситуаций, с которыми мы сталкиваемся, основано на широком, интуитивном «знании здравого смысла» о том, как устроен мир, а также о целях, мотивах и вероятном поведении других живых существ, особенно людей. Кроме того, наше понимание мира основывается на наших основных способностях обобщать то, что мы знаем, формировать абстрактные концепции и проводить аналогии - короче говоря, гибко адаптировать наши концепции к новым ситуациям. Исследователи десятилетиями экспериментировали с методами наполнения систем искусственного интеллекта интуитивным здравым смыслом и надежными способностями обобщения, подобными человеческим, но в этом очень трудном начинании был достигнут лишь незначительный прогресс.

Программы искусственного интеллекта, в которых отсутствует здравый смысл и другие ключевые аспекты человеческого понимания, все чаще используются для реальных приложений. В то время как некоторые люди беспокоятся о «сверхинтеллектуальном» ИИ, наиболее опасным аспектом систем ИИ является то, что мы будем слишком доверять им и предоставлять слишком много автономии, не зная в полной мере то, что их способности ограничены. Как заметил исследователь искусственного интеллекта Педро Домингос в своей книге «Главный алгоритм»: «Люди беспокоятся о том, что компьютеры станут слишком умными и захватят весь мир, но настоящая проблема заключается в том, что они слишком глупы и уже взяли на себя управление Миром."

Гонка за коммерциализацию ИИ оказала колоссальное давление на исследователей с целью создания систем, которые «работают достаточно хорошо» для узких задач. Но в конечном счете, цель развития заслуживающего доверия ИИ потребует более глубокого исследования наших собственных, недюжинных способностей и нового понимания познавательных механизмов, которые мы сами используем для уверенного и надежного понимания мира. Для раскрытия барьера смысла ИИ, скорее всего, потребуется шаг назад, от расширяющегося киберспейса до глобальных сборов данных. Придётся сделать шаг вперёд - к основе вопроса междисциплинарной науки, изучающей наиболее сложную научную проблему - природу интеллекта.

Автор: Мелани Митчелл - профессор компьютерных наук в Государственном университете Портленда и внешний профессор в Институте Санта-Фе. Ее книга «Искусственный интеллект: руководство для мыслящих людей» будет опубликована в 2019 году Фарраром, Страусом и Жиру.