Перейти к основному содержанию
от

Необходимо ли нам беспокоиться о роботах убийцах? Несмотря на все разговоры о том, что искусственный интеллект (ИИ) угрожает обществу, некоторые эксперты считают, что ИИ не следует опасаться. Вот почему мы можем использовать силу технологий.

Искусственный интеллект (ИИ) присутствует везде. ИИ рекомендует фильмы и выбор ресторана, предотвращает сбои в работе автомобилей, заказывает рейсы, отслеживает такси, выявляет финансовые мошенничества и создает плейлисты для работы. В 1950-х годах под ИИ понимали машины, работающие способами, которые считались «интеллектуальными» или выполняющим задачи, которые выполняют люди. С тех пор использование компьютеров и генерация данных значительно увеличились, причем текущие оценки составляют 2,5 квинтиллионных байта ежедневно.

Hands of a woman using a smartphone.

Большая часть данных является выходной информацией или информацией, получаемой в результате ежедневного использования мобильных телефонов, социальных сетей и интернета. Эта информация широко известна как большие данные и именно ИИ в этом помогает. ИИ использует машинное обучение для анализа этих данных в реальном времени со скоростью и объемом, которые никогда не мог сделать человек. Неудивительно, что частный сектор использует ИИ и все чаще использует его для получения более точной информации о покупательском поведении, финансовых операциях, логистике и прогнозировании будущих трендов.

Организация Объединенных Наций признает силу ИИ и сотрудничает с частным сектором в сфере благотворительности, с тем, чтобы такая информация, как обследования, статистические данные и профили потребителей, могла использоваться на благо общества. Например, исследователи используют спутники и дистанционные датчики с технологией искусственного интеллекта для прогнозирования экстремальных погодных явлений, влияющих на сельское хозяйство и производство продовольствия в развивающихся странах.

Имея это в виду, ИСО совместно со своей дочерней организацией, Международной электротехнической комиссией (МЭК), определили необходимость разработки стандартов для ИИ, которые могут принести пользу всему обществу. Подкомитет ИСО/МЭК СТК 1/ПК 42 по искусственному интеллекту был создан два года назад и уже опубликовал три стандарта, касающихся больших данных, а также 13 проектов документов находятся на стадии разработки. Возглавляемый бизнес-технологом Уэлем Уильямом Диабом (Wael William Diab), подкомитет разработает и внедрит программу стандартизации в области ИИ для предоставления рекомендаций другим комитетам ИСО, занимающимся разработкой приложений для ИИ.

Установление границ

ПК 42 имеет широкий диапазон разработки ИИ, который включает в себя базовую терминологию и определения, управление рисками, предвзятость и надежность в системах ИИ, надежность нейронных сетей, системы машинного обучения и обзор этических и социальных проблем. Двадцать семь стран-участниц задействованы в этой программе, еще 13 стран являются наблюдателями. Рей Уолш (Ray Walshe), доцент кафедры стандартизации ИКТ в Дублинском городском университете, г-н Во Чанг, советник по цифровым данным в Лаборатории информационных технологий (ITL) Национального института стандартов и технологий (NIST) в США, и д-р Тарека Бесольд (Tarek Besold), научного сотрудника и советника в Neurocat, Берлине и главного поведенческого директора (CBO) в Telefonica Innovation Alpha Health в Барселоне являются тремя ключевыми членами данного комитета. Они идентифицируют себя с Питером Паркером, когда он стал Человеком-пауком? С большой властью появляется и большая ответственность.

Industrial robotic arm picks cardboard boxes off a conveyor belt in a warehouse.

Доктор Бесольд не унывает. «ИИ представляет новый и быстро изменяющийся сектор, полный новаторов и разрушителей. Мы нуждаемся в определении современного и здравого определения механизмов и технологий ИИ. Да, разработка норм и стандартов представляет сложную задачу, и функциональная совместимость жизненно важна, потому что ИИ настолько далеко идет вперед. ИИ является частью многих фьючерсов как инструмент, а не лидер».

ПК 42 строится с нуля, отмечает Чанг. «Мы предоставляем совместимые структуры и инструменты для повышения производительности в форме стандартов по искусственному интеллекту и большим данным, которые затем могут быть переданы правительству и частным предприятиям. Данные рамки устанавливают «пограничные условия» для ИИ, которые могут быть определены с использованием вероятностей для определения факторов риска. Не только границы, но и система безопасности, которая использует управление рисками при их реализации».

Правительства всего мира решают, что они регулируют. Рей Уолш отмечает, что общественность должна признать, что есть разница между стандартизацией, законодательством и регулированием. Девяносто процентов мировых данных были получены только за последние два года. Это невероятное количество как структурированных, так и не структурированных данных для хранения, агрегирования, поиска и сравнения множества предприятий, правительств и исследователей, которые предоставляют инструменты и услуги. Правительства и частный сектор будут часто использовать международные стандарты в качестве ссылки на нормативные акты, чтобы гарантировать, что промышленность, общественная безопасность и этические проблемы удовлетворялись».

Обман ИИ

Безопасность данных и то, каким образом они используются, остается проблемой в обществе, особенно, когда упоминается страшная «компьютерная ошибка». Математика выступает в качестве важнейшего аспекта. Доктор Бесолд отмечает, что программы ИИ играют в лотерею с исследователями, генерирующими атаку и защиту на системах ИИ, пытаясь их обмануть и разрабатывая решения проблем, которые они обнаруживают.

ИИ фокусируется на высокой специфичности, что означает, что он будет приспособлен к конкретной задаче. «ИИ забирает у людей трудоемкое и скучное программирование, но ему все еще нужны правила и меры, которые будут устанавливаться людьми. Если вы применяете границы безопасности к автомобилю с самостоятельным вождением, то очевидно, что эта технология требует гарантий и стандартных определений. Приемлемый ли это риск, чтобы столкнуться с пожилым человеком или маленьким ребенком? Конечно, и то и другое неприемлемо, и мы хотим помочь правительствам и отраслям в принятии и внедрении мер, которые рекомендуем».

Photo collage of a low-battery warning in an electric car and an aerial view of a traffic jam.

«Вероятность при оценке риска является ключевым понятием, – соглашается Ву Чанг (Wo Chang), и он использует кошек в качестве довольно убедительного примера. – Если Вы обратитесь к распознаванию изображений, то увидите, что эффективная система выдаст ошибку, если программа не сталкивалась с этим ранее и была закрыта. Система получила миллионы изображений кошек и собак, так что ее способность их различать была налажена. Система была обучена в четко определенных условиях, но ее невозможно адаптировать ко всему. Что произойдет, если она столкнется с кошкой в галстуке-бабочке? Это показывает, что, если одна часть изображения изменяется, результаты могут быть очень разными. В данном случае может возникнуть ошибка (или кошка в галстуке-бабочке), которая не соответствует среде и функционированию системы и вводит ограничения безопасности, чтобы избежать сбоев. Применительно к более серьезным приложениям, тщательное тестирование может определить вероятность и отключить систему, в целях предотвращения более катастрофических сбоев».

Доверяйте своим данным

При использовании ИИ в потенциально уязвимых областях, таких как здравоохранение, эпиднадзор и банковское дело, возможен риск того, что погрешность человека влияет на использующиеся данные. Доктор Бесольд признает это. «В искусственном интеллекте существует предубеждение, но мы можем договориться о стандартном определении для решения этой проблемы. Регулирующие органы могут согласиться с тем, что погрешность по шкале 5/10 может являться приемлемой для дозаторов мыла, но, конечно, не в тех, случаях, когда речь идет об автомобилях с автоматическим управлением».

«В области медицины, отмечает он, правительство и общество должны решить, можем ли мы жить в проверенном мире? Можем ли мы использовать данные, которые в основном из первого мира, для первого мира, в первом мире? Признают ли регулирующие органы, что данные могут применяться только к этим людям, или настаивают на том, что они должны работать для всех в мире, но будут статистически менее точными?

«Посмотрите на пересадку органов. ИИ потенциально может иметь доступ ко всем доступным медицинским картам по всему миру и применять огромный спектр мер, чтобы определить, какой человек попадет в топ списка, обеспечивая меньшее отторжение пересаженных органов и имея лучшие медицинские результаты. Однако, если вы в списке на пересадку и понимаете, что другие люди получают органы вперед Вас, Вы готовы принять данные, на основании которых было принято решение?».

Надежность жизненно важна. Комитет и исследователи в данной области должны посмотреть, как другие области, такие как медицина и автомобилестроение применяют меры и завоевывают это доверие со стороны правительства и общества в целом.

По словам Ву Чанга, развивающееся машинное обучение рассматривает насущные потребности мира. «В Африке доступ к энергии является большой проблемой в сельских районах. В связи с появлением большого количества смартфонов там разрабатываются приложения, которые могут диагностироваться основные медицинские проблемы в удаленных клиниках, предоставлять предварительные данные, такие как прогноз погоды, качество почвы и советы в области сельского хозяйства».

Страхи и фобии

Несмотря на эти достижения, большая часть общественности боится ИИ как страшного сценария развития, воображая, что роботы становятся Шварцнегеровскими «Терминаторами», заменяющими людей. «Такая ситуация не случится в моей жизни, – говорит Рэй Уолш (Ray Walshe). – Не поймите меня неправильно, ИИ является поворотным моментом в развитии и способен выполнять очень точные задания достаточно быстро. Это впечатляет и позволяет экономить средства, но данное понятие известно нам как «узкий интеллект». Человеческий мозг способен выполнять такую «узкую» задачу, а также тысячи других «более широких» и «более сложных» задач. Робототехника является одной из самых захватывающих областей для развития ИИ, но миф о том, что машины будут способны к искусственному интеллекту, как «Терминатор», не произойдет в обозримом будущем.

Engineer works with a HoLoLens headset to place a virtual robotic arm into the production line.

«ИИ все еще является скорее обещанием, чем достижением, - соглашется доктор Бесольд. Исследовательская сторона продвигается быстрее, чем прикладная. Роботизированное оружие на заводах может делать только то, на что оно запрограммировано и в этом не прослеживается «интеллект». Если требуется изменение, например, работа на другой стороне автомобиля, то это требует изменения в программировании, которое предполагает участие человека».

Доктор Бесольд говорит, что разработчики ИИ должны больше взаимодействовать с обществом, чтобы обеспечивать достаточный уровень прозрачности, и Чанг отмечает, что стандарты, разработанные комитетом для решения проблемы надежности системы, качества данных и границ, позволят повысить уровень доверия и способность взаимодействовать с различными хранилищами данных.

Все три члена комитета отмечают, что рабочие профессии изменяются, а не исчезают. ИИ будет выполнять больше ручной работы и рутинных задач, таких как стандартные контракты и документы, предоставляя людям больше времени для концентрации на том, что доставляет удовольствие, «врачебный такт» в медицинском лечении, этические вопросы и боковое мышление. Появляются возможности для перевоспитания и работы над более сложными и интересными ситуациями.

«Как ни парадоксально, если расширение внедрения ИИ на рабочих местах привело к оживлению профсоюзных движений, – отмечает доктор Бесольд, – Если рассмотреть ситуацию в школе или в больнице, то использование искусственного интеллекта для материально-технического обеспечения или декларативных знаний, таких как факты, даты и цифры, может привести к сокращению рабочего времени персонала в неделю. Увольняют ли правительства, и работодатели какой-либо персонал или они договариваются о сокращении рабочей недели для более сбалансированной жизни? Вот где существует консенсус: какая самая большая выгода для общества?».

Новые перспективы

По словам Ву Чанга будущие тренды и преимущества ИИ будут видны в сфере приложений для громкой связи. «Ношение умных очков позволит пользователям взглянуть на что-то вроде сломанной стиральной машины и получить информацию о том, что не так, где находится проблема и как ее устранить. Что касается туризма, Вы сможете осмотреть здание и узнать историю, его функции и услуги.

Woman with a wearable computer in the form of smart glasses.

Чанг возлагает большие надежды на умные очки. «Когда правительство и бизнес будет держать своих граждан и клиентов «на карандаше» и научиться пользоваться лучшими практиками ИИ и своего народа, это будет действительно светлое будущее».

Рэй Уолш лично заинтересован в том, чтобы узнать, как ИИ можно использовать для достижения целей, изложенных в Целях устойчивого развития ООН, представляющих универсальный призыв к действиям по обеспечению мира и процветания для человечества. «Какие существуют возможности для борьбы с бедностью во всем мире, голодом и недоеданием, для улучшения водоснабжения и санитарии, равных возможностей в сфере образования, работы и с учетом гендерных факторов, а также учетом ускорения темпов развития в развивающихся странах? Это основные проблемы, которые требуют прорывных и изменяющих игру технологий и экспертного сотрудничества в глобальном масштабе».

Д-р Бесольд отмечает: «Нам необходимо делать больше, чем делать сэлфи в социальных сетях. Я надеюсь на будущее и, что фактическое применение искусственного интеллекта приведет к увеличению усилий в области логистики, которая поможет в области медицины, сельского хозяйства, изменения климата и научных открытий, которые являются важными приложениями и могут принести пользу обществу».

Похоже, что подкомитет ИСО/МЭК СТК 1/ПК 42 по искусственному интеллекту будет иметь много работы.

Комитет/ы

 

Эта новость из ISOfocus

В этом выпуске мы развенчиваем мифы об искусственном интеллекте, рассматриваем открывающиеся возможности и объясняем, почему международные стандарты очень важны.

Default ISOfocus
Elizabeth Gasiorowski-Denis
Editor-in-Chief of ISOfocus

+41 22 749 03 25

Будьте в курсе актуальных новостей ИСО

Подписывайтесь на наши новости, обзоры, а также на информацию о продуктах