AI Weekly: опознание лиц, глубокие подделки, конфиденциальность и автоматизация рабочих мест определены 2019

Поскольку год подходит к концу, поучительно оглянуться на предыдущие месяцы, чтобы увидеть, что ждет нас в будущем. История носит циклический характер, и это верно в отношении ИИ. Считают, что обратное распространениеАлгоритм, широко используемый в обучении систем машинного обучения, появился в теории еще в 1980 году, но только в 2010-х годах он вернулся, отчасти благодаря дешевым, мощным машинам на основе видеокарт.

В этом году на передний план вышли четыре ключевые проблемы ИИ и машинного обучения: распознавание лиц; подделки и самоцензура в академических кругах; Конфиденциальность; и автоматизация. В преддверии 2020 года, давайте вернемся к некоторым вопросам, которые определили отрасль в 2019 году.

Распознавание лиц

Распознавание лиц оказалось в новостях этого года, пожалуй, больше, чем любое другое применение ИИ.

В начале января команда ученых MIT предполагаемый что платформа Amazon Web Services для распознавания лиц и анализа — Rekognition — различать пол среди определенных этнических групп менее точно, чем конкурирующие решения. В частности, он не смог определить пол женского и темнокожего лица в некоторых сценариях, по ошибке идентифицировав изображения женщин как мужчин и женщин с более темной кожей как мужчин в 19% и 31% случаев соответственно.

Помимо споров с Amazon, в исследовании предусмотрительно были выявлены типы предубеждений, к которым ИИ легко может стать восприимчивым. Исследование Опубликованный Национальным институтом стандартов и технологий (NIST) только на прошлой неделе обнаружил, что при проведении поиска в базе данных определенного типа ряд алгоритмов распознавания лиц ложно идентифицировал черные и азиатские лица в 10-100 раз чаще, чем лица кавказских ,

Помимо проблемы смещения, масштабируемость технологии распознавания лиц делает ее зрелой для злоупотреблений. В этом году Полиция Нью-Йорка провела фотографию актера Вуди Харрельсона через систему распознавания лиц потому что офицеры думали, что подозреваемый, увиденный в аптеке, отснятый материал напоминал актера Мы узнали, как Китай использует распознавание лиц, чтобы отслеживать перемещения своего уйгурского мусульманского населения, А AnyVision, стартап, базирующийся за пределами Тель-Авива, попал под пристальное внимание после сообщений о том, что его продукты используются для наблюдения за палестинцами, живущими на Западном берегу.

Растущее число активистов, ученых и законодателей призывает к ограничениям или прямым запретам на технологии распознавания лиц. Этой осенью Калифорния ввела трехлетний мораторий на использование распознавания лиц в камерах правоохранительных органов, а в мае Сан-Франциско запретил использование распознавания лиц полицией или городские отделы. Окленд последовал его примеру в июне, после чего Беркли принял собственный запрет. А на двух слушаниях в комитете Палаты представителей по надзору и реформе прошлым летом некоторые из наиболее видных республиканцев и демократов в Конгрессе США объединились в предложениях по законодательной реформе после введения Закон о конфиденциальности коммерческого признания лица от 2019 года, что потребует от компаний получения согласия перед использованием программного обеспечения для распознавания лиц.

Учитывая жестокость дебатов в Конгрессе, научных кругах, домах и общественные форумы, такие как Капитолийский холмСправедливо будет сказать, что распознавание лиц было и останется актуальной темой.

Самоцензура и подделки

В отличие от академических норм, OpenA в феврале предпочло не публиковать корпус, используемый для обучения своей современной модели обработки естественного языка, известной как GPT-2, или код обучения, который ее сопровождал. В сообщении в блоге, оправдывающем его решение, OpenAI выразил обеспокоенность тем, что они могут быть использованы для генерирования синтетических финансовых новостей о конкретных компаниях, например, или стяжках расистских или сексистских текстов и фальшивых обзоров на сайтах, таких как Amazon или Yelp.

Впоследствии OpenAI выпустил несколько небольших и менее сложных версий GPT-2 и изучил их прием, а также наборы данных, на которых они тренировались. После того, как был сделан вывод о том, что «не было веских доказательств» неправомерного использования, в прошлом месяце он опубликовал полную модель, которая была обучена на восьми миллионах текстовых документов, соскребенных из Интернета.

Критики решения OpenAI утверждали, что фирма преувеличивала опасность, связанную с их работой, и что она непреднамеренно подогревала массовую истерию по поводу ИИ и машинного обучения в процессе. Помимо этого, они утверждают, что OpenAI ставит исследователей в невыгодное положение, лишая их доступа к прорывным методам искусственного интеллекта, и что это эффективно мешает исследовательскому сообществу выявлять ошибки в GPT-2 или предлагать возможные контрмеры.

У них есть смысл, но опасения OpenAI не были полностью необоснованными. Deepfakes, или медиа, которые берут человека с существующего изображения, аудиозаписи или видео и заменяют его чужим изображением с помощью AI, быстро размножаются в 2019 году. Deeptrace обнаружил в Интернете 14 698 глубоких поддельных видео во время своего последнего подсчета в июне и июле , до 84% с декабря прошлого года. Это беспокоит не только потому, что глубокие подделки могут быть использованы для влияния на общественное мнение во время выборов или для вовлечения кого-либо в преступление, которое они не совершали, но и потому, что они уже использовались для производства порнографические материалы и мошенничество компании из сотен миллионов долларов.

Технические гиганты, включая Facebook, Microsoft и Amazon, имеют объединились с академическими партнерами, включая MIT и Cornell, чтобы помочь в борьбе с распространением вводящих в заблуждение искусственных интеллектов СМИ, но нерешительность OpenAI выпустить свою модель является решающим фактором для стоящих перед нами задач. Действительно, Experian предсказывает что в 2020 году киберпреступники будут использовать технологию искусственного интеллекта, чтобы нарушить деятельность коммерческих предприятий и создать геополитическую путаницу между странами.

Конфиденциальность

Для всего хорошего, что они сделали, ИИ и алгоритмы машинного обучения имеют главная проблема конфиденциальности,

Королевский фонд «Свободный Лондон» NHS Foundation, подразделение Национальной службы здравоохранения Великобритании, базирующейся в Лондоне, при условии Alphabet DeepMind с данными о 1,6 миллиона пациентов без их согласия. Google (чей обмен данными о здоровье партнерство с Вознесением стал предметом пристального внимания в ноябре) заброшенный планирует публиковать снимки рентгеновских снимков грудной клетки из-за опасений, что в них содержится личная информация. Прошлым летом Microsoft тихо удален набор данных (MS Celeb) с более чем 10 миллионами изображений людей после того, как было обнаружено, что некоторые не знали, что они были включены. И было обнаружено, что ImageNet, библиотека с открытым исходным кодом, обычно используемая для обучения алгоритмам компьютерного зрения, в какой-то момент содержала изображения интимных действий, соскобленные с Google, Flickr и других источников.

Отдельно, технические гиганты, включая Apple и Google, были предметом отчетов, раскрывающих потенциальное злоупотребление записи собран для улучшения помощников, таких как Siri и Google Assistant. В апреле Bloomberg показал что Amazon нанимает сотрудников по контракту для того, чтобы аннотировать тысячи часов аудио с устройств на базе Alexa, что побудило компанию развернуть ориентированные на пользователя инструменты, которые быстро удаляют данные, хранящиеся в облаке.

Это все проблематично, учитывая, что частная жизнь все чаще становится не просто вопросом философии, а ставкой на стол в процессе бизнеса. Законы на государственном, местном и федеральном уровнях направлены на то, чтобы сделать конфиденциальность обязательной частью управления соблюдением. Сотни законопроектов, касающихся конфиденциальности, кибербезопасности и утечки данных, находятся на рассмотрении или уже были приняты в 50 штатах США, территориях и округе Колумбия. Возможно, наиболее полный из них, Калифорнийский закон о защите прав потребителей был подписан в закон примерно два года назад. Это не говоря уже о Законе о мобильности и подотчетности медицинского страхования (HIPAA), который требует от компаний запрашивать разрешение, прежде чем раскрывать индивидуальную медицинскую информацию.

В ответ Google и другие выпустили библиотеки, такие как TensorFlow Конфиденциальность и PySyft для систем машинного обучения, включая TensorFlow и PyTorch, которые обеспечивают надежные гарантии конфиденциальности с помощью таких методов, как дифференциальная конфиденциальность. Одновременно они использовали методы, включающие федеративное обучение, которое обучает ИИ на децентрализованных устройствах или серверах (то есть узлах), хранящих образцы данных без обмена этими образцами, и гомоморфное шифрование, форму криптографии, которая позволяет выполнять вычисления в открытом тексте (содержимое файла) в зашифрованном виде. используя алгоритм (также известный как шифротексты). И на стороне полностью управляемых услуг уравнения, технологические гиганты, такие как Amazon, предприняли предложения соблюдать правила, такие как HIPAA.

автоматизация

Несмотря на то, что страх перед искусственным кражей ИИ мог быть чрезмерным, автоматизация устраняет потребность в человеческом труде.

Глобальный Институт Маккинси доклад опубликованные ранее в этом году обнаружили, что женщины преобладают в профессиях, которые будут неблагоприятно изменены ИИ и машинного обучения. Около 40% рабочих мест, где мужчины составляют большинство в 10 экономиках, на долю которых в совокупности приходится более 60% ВВП, могут быть заменены автоматизацией к 2030 году по сравнению с 52% рабочих мест, где преобладают женщины, с высоким потенциалом автоматизации.

Эти настроения вяжутся с мартовским 2019 доклад из Управления национальной статистики США (ONS), которое установило, что 10% рабочей силы Великобритании (около 1,5 млн. рабочих) занимают рабочие места, которые подвергаются «высокому риску» автоматизации. ONS прогнозировало, что работники сферы обслуживания — главным образом официанты и официантки, розничные продавцы инвентаря и продавцы начального уровня — будут непропорционально затронуты, а также в сельскохозяйственной, автомобильной и сервисной отраслях. И департамент предсказал, что женщины, которые в 2017 году имели 70,2% рабочих мест с высокой степенью риска, будут нести основную тяжесть предстоящих изменений на рынке труда.

Предполагается ли, что они приступят к новой работе или приобретут новые навыки в своих нынешних областях, к 2030 году десятки миллионов рабочих должны будут перейти к каким-либо профессиональным переходам. Forrester обнаружил, что автоматизация может устранить 10% рабочих мест в США в ближайшие месяцы. И Всемирный Экономический Форум, PricewaterhouseCoopers, McKinsey Global Institute, и Gartner По прогнозам, к 2025 году ИИ сможет сократить до 75 миллионов рабочих мест.

Возможно, неудивительно, что различные формы универсального базового дохода, такие как регулярные выплаты гражданам независимо от дохода, имеют одобрения таких знаменитостей, как Ричард Брэнсон и Элон Маск. Кандидат в президенты США Эндрю Янг сделал это центральной частью своей кампании за выдвижение демократов — он утверждает, что платежи, обеспечиваемые налогом на добавленную стоимость, могут дать толчок экономическому развитию в регионах США, которые не получили выгоды от источника роста венчурный капитал. Что касается Билла Гейтса, он предложил ввести «робот налог,«При этом правительство будет взимать плату каждый раз, когда предприятие заменяет сотрудника автоматизированным программным обеспечением или машинами.

Заглядывая вперед

Проблемы с ИИ огромны. Распознавание лиц остается мощным и в значительной степени нерегулируемым применением машинного обучения, которое усиливает — а в некоторых случаях создает — состояния наблюдения. Deepfakes сильно влияют на технологические компании и ученых, а также на широкую публику. Окончательные решения вопросов конфиденциальности в ИИ неуловимы. И независимо от того, будут ли рабочие переубеждены, ожидается, что автоматизация повлияет на средства к существованию миллионов людей.

Какие ответы может дать 2020? Сложно сказать. Но при всех дилеммах, которые ставит перед собой ИИ, это повлияло на огромные позитивные изменения. ИИ в этом году достиг современного уровня в сворачивание белка, которые могли бы проложить путь для новых методов лечения и лекарств. Различные реализации машинного обучения используются для решения глобальное изменение климата, И ИИ позволил людям с нарушениями речи и слуха использовать продукты, которые ранее были им недоступны.

Как и в случае любой смены парадигмы, всегда есть и плохое с хорошим. Задача отрасли — и, действительно, наша задача — делать все возможное для продвижения последних за счет первых.

Для освещения AI отправляйте новости Хари Джонсон и Кайл Виггерс и AI редактор Сет Коланер — и обязательно подписаться на новостную рассылку AI Weekly и добавь в закладки AI канал,

Спасибо за прочтение,

Кайл Виггерс

AI Staff Writer



Источник: AI Weekly: опознание лиц, глубокие подделки, конфиденциальность и автоматизация рабочих мест определены 2019


Похожие материалы по теме: AI Weekly: опознание лиц, глубокие подделки, конфиденциальность и автоматизация рабочих мест определены 2019

Leave a comment