Как частный ИИ может помочь разработчикам и производителям устройств защитить детей

Смартфоны и социальные сети часто было называется сигареты нашей эры — привыканиеразрушительный рак, Дети особенно подвержены коррупции, пронизывающей цифровой мир, независимо от того, впитывают ли они дезинформацию или борются с массой издевательств и издевательств.

Но пока Интернет может быть токсичныммиллионы молодых людей когда-либо знали мир, в котором они общаются с другими людьми через MySpace, Facebook, Instagram, YouTube, Twitter, Snapchat, WhatsApp и множество других социальных платформ. Родители, которые стараться сохранить их потомки от использования таких услуг с самого начала сталкиваются с трудностями, поэтому технологические компании все чаще берут на себя ответственность за то, чтобы сделать Интернет более приятным местом.

Большинство компаний, стоящих за этими платформами, пытались растущая техническая реакция путем введения функций, которые утверждают, чтобы исправить хотя бы некоторые из проблем. Например, Instagram теперь использует AI, чтобы предупредить пользователей, прежде чем они опубликуют оскорбительный текст, в надежде, что они пересмотрят. В другом месте, Алфавит ответвление Головоломка работает с издателями на технологии, которая позволяет пользователям отсеивать оскорбительные комментарии.

Гигантские технические гиганты обладают ресурсами и опытом ИИ, чтобы хотя бы попытаться решить проблему, но небольшие компании … не так много. Здесь швейцарский стартап в частном порядке надеется занять свою нишу — предоставляя разработчикам и производителям устройств инструменты для добавления функций благополучия и безопасности, которые защищают детей в цифровую эпоху.

Приватный глаз

Основанная в 2014 году в Лозанне, Швейцария, компания Privately производит программное обеспечение, которое интегрируется с любым приложением и позволяет обнаруживать маркеры безопасности, относящиеся к онлайн-общению детей. Затем он предоставляет руководство по киберзапугиванию, конфиденциальности и многому другому.

Несколько лет назад компания Privately запустила ориентированное на потребителя мобильное приложение под названием Oyoty, что служит демонстрацией его технологии. Oyoty, в своем первоначальном виде, было загружаемым мобильным приложением, которое связывалось с социальными учетными записями пользователей (Facebook, Instagram и Twitter) — выкладывало посты на «проблемы» и вмешивалось при необходимости. Его автоматизированный бот может порекомендовать ребенку не делиться конфиденциальной информацией, такой как номер телефона, или предупредить его, если на фотографии слишком много кожи.

Вверху: Ойоты в действии

Oyoty эволюционировал за прошедшие годы и все еще развивается на нескольких европейских рынках. В частном порядке рассказал VentureBet, что в настоящее время компания ведет «расширенные дискуссии» с крупным производителем устройств, чтобы предоставить настроенную версию Oyoty для своего оборудования в нескольких странах.

Однако, чтобы достичь истинного масштаба, Privately продвигается в сферу B2B, чтобы сделать свою базовую технологию доступной для всех и каждого. Его технология Online Wellbeing and Safety (OWAS) доступна с сентября, и BBC была одной из первых сторонних организаций, которые применили эту технологию, когда запустил мобильное приложение Own It и клавиатура в Великобритании.

Основная идея Own It состоит в том, что дети устанавливают приложение и делают его клавиатурой по умолчанию на своем устройстве (предположительно по настоянию родителей). Затем дети получают предупреждения, подсказки и советы в режиме реального времени, когда приложение обнаруживает что-то неприятное.

Например, если кто-то введет в поиске Google слова «Я чувствую самоубийство», на клавиатуре появится небольшое сообщение с сообщением о том, кто может помочь, а также бесплатный номер службы поддержки.

Вверху: BBC Own It: Чувство самоубийства?

В другом месте клавиатура BBC Own It может определить, когда пользователь пишет что-то среднее, и попросить его подумать еще раз перед публикацией.

Вверху: компании могут использовать в частном порядке для интеграции технологии анти-злоупотребления в свои приложения

Точно так же, если кто-то пытается поделиться личной информацией, такой как адрес электронной почты или номер телефона, приложение предложит пользователю пересмотреть.

Вверху: конфиденциально предупреждает пользователей о том, что они делятся слишком большим количеством информации

Приложение BBC Own It помогает продемонстрировать, каким образом разработчики могут использовать технологию Privately. А Privately планирует расширить свой кругозор, включив в него другие формы цифровой связи, в том числе голосовую.

«Голос является главным приоритетом, так как он медленно заменяет текст во многих средах», — сказал VentureBeat частный исполнительный директор и соучредитель Дипак Тевари. «У нас будет, по крайней мере, кое-что о голосе в 2020 году».

Приложение Oyoty также дает представление о том, как его искусственный интеллект можно использовать для визуальных форм общения, в том числе способность обнаруживать «слишком много кожи» на фотографии.

В частном порядке он обучил свои системы «понимать ряд методов», чтобы определить, что может или не может быть неуместным. Он учитывает контекст фотографии — например, была ли она сделана в помещении или на улице и является ли она отдельным человеком или снимком семьи — чтобы «интерпретировать, может ли изображение быть провокационным», сказал Тевари.

Вверху: Oyoty демонстрирует, как технология Privately может использоваться для предотвращения чрезмерного обмена детьми личной информацией.

В частном порядке быстро подчеркивают, что его технология развернута на самом устройстве, что не только помогает быстро доставлять рекомендации в режиме реального времени, но и повышает его учетные данные, учитывая, что данные не передаются на удаленный сервер. С правилами конфиденциальности такие как GDPR Принимая это во внимание, это может стать большой выгодой для разработчиков приложений.

«Элемент AI, сохраняющий конфиденциальность, в приложении Own It, которое было разработано в рамках этого сотрудничества (с BBC), является первым в отрасли», — добавил Тевари.

До настоящего времени частная поддержка была оказана швейцарским инвестором-ангелом, в дополнение к гранту, который помогал финансировать его исследовательскую базу в Швейцарии. Компания также готовится привлечь средства инвесторов из Великобритании в начале 2020 года, поэтому Privately сейчас открыла офис в Лондоне.

С точки зрения своей бизнес-модели, Privately заявил, что получает доход в основном за счет лицензирования своих технологий для компаний, которые могут выбирать функции, которые они хотят использовать. Компании также могут настроить свою технологию за дополнительную плату для удовлетворения конкретных требований клиентов.

Для Privately еще рано, но стартап уже работает над различными доказательствами концепции с компаниями, работающими в игровой индустрии, в дополнение к благотворительным организациям, антивирусным компаниям и телекоммуникационным компаниям. Ранее в этом году Privately был приглашен стать членом Честная игра Альянсрабочая группа игровой компании, посвященная улучшению опыта геймеров. Tencent также пригласил в частном порядке принять участие в разработке новых стандартов защиты несовершеннолетних.

«Там был очень сильный интерес в целом», сказал Тевари.

Благополучие

По своей сути Privately использует растущую тенденцию цифрового здравоохранения. В июлеInstagram представил новую автоматизированную функцию, которая предупреждает пользователей перед тем, как они размещают оскорбительные или запугивающие комментарии под фотографиями или видео, и эта функция была недавно расширен до подписей,

Но снижение токсичности — это только часть картины — в частном порядке особое внимание уделяется благополучию на индивидуальном уровне.

«Хотя токсичность и разжигание ненависти являются серьезной проблемой в Интернете, мы видим более широкое внимание к теме цифрового благополучия», — продолжил Тевари. «С этой целью мы будем разрабатывать технологии, которые лучше понимают цифровую среду, а также пользователя, и обеспечиваем персональную помощь пользователям, чтобы иметь чистые положительные отношения с технологиями».

Это та область, в которую крупные мобильные провайдеры вкладывают значительные средства, оба Google и Apple запуск различные инструменты для улучшения отношений людей с их цифровыми устройствами. И это, вероятно, станет все более и более сфокусированным для технологических компаний по всему спектру. Ставки в частном порядке делают ставку на то, что это может улучшить качество времени, проводимого в Интернете, предоставляя дополнительный уровень защиты для детей, а ИИ заполняет пробелы для родителей, которые не могут круглосуточно следить за своим потомством.



Источник: Как частный ИИ может помочь разработчикам и производителям устройств защитить детей


Похожие материалы по теме: Как частный ИИ может помочь разработчикам и производителям устройств защитить детей

Leave a comment