AI Weekly: чат-роботы Coronavirus используют противоречивые источники данных и методы обеспечения конфиденциальности

Широко сообщалось, что системы больниц в США, особенно в таких горячих точках, как Нью-Йорк, Детройт, Чикаго и Новый Орлеан, поражены притоком пациентов, пострадавших от COVID-19. Есть общенациональный нехватка вентилятора. Конгресс-центры и общественные парки были перепрофилированы как переполнения прихода. И время ожидания в некоторых колл-центрах и испытательных центрах в среднем несколько часов,

Совершенно очевидно, что существует реальная и существующая потребность в сортировочных решениях, обеспечивающих оперативное лечение людей, подвергающихся риску. В качестве решения были предложены чат-боты — технологические гиганты, включая IBM, facebook, и Microsoft отстаивали их как эффективные информационные инструменты. Но проблема заключается в том, что эти чат-боты получают и обрабатывают данные, что в худшем случае может привести к противоречивым результатам для здоровья.

Мы попросили шесть компаний, которые предоставляют решения для чат-ботов COVID-19 правительствам, некоммерческим организациям и системам здравоохранения — Clearstep, IPSoft, Quiq, дрейф, Цепь жизни, и Орбита — раскрыть источники информации COVID-19 своих чат-ботов и процессы их проверки, а также собирать ли они и как они обрабатывают личную информацию (PII).

Качество и источники информации

Неудивительно, но, тем не менее, что касается процессов поиска и проверки, у провайдеров чат-ботов сильно различаются. В то время как некоторые утверждали, что проверяют данные, прежде чем предоставлять их своим пользователям, другие возражают против этого вопроса, вместо этого настаивая на том, что их чат-боты предназначены для использования в образовательных, а не диагностических целях.

Clearstep, Orbita и LifeLink сообщили VentureBeat, что они управляют всей информацией своих чат-ботов медицинскими работниками.

Clearstep говорит, что использует данные из Центров по контролю и профилактике заболеваний (CDC) и протоколы, «которым доверяют более 90% центров вызова медсестер по всей стране». Компания нанимает главных медицинских и главных специалистов по медицинской информатике из своих учреждений-заказчиков, а также врачей по внутренним болезням и неотложной медицинской помощи, чтобы проверить содержание с помощью своих групп клинических обзоров и предоставить действенную обратную связь.

Orbita также опирается на руководящие принципы CDC и имеет соглашения о предоставлении доступа к контенту от надежных партнеров, таких как клиника Майо. Его собственная клиническая команда уделяет первоочередное внимание использованию этого контента, который, как утверждают, проверяется «ведущими учреждениями».

LifeLink также совмещает свои вопросы, алгоритмы риска и рекомендации по уходу с рекомендациями CDC, дополненными дополнительным модулем вопросов и ответов. Но это также ясно дает понять, что он оставляет клинические бригады, которые подписывают все данные своих чат-ботов.

В отличие от этого, IPsoft заявляет, что, хотя его источники чат-ботов из CDC в дополнение к Всемирной организации здравоохранения (ВОЗ), его содержание больше не проверяется внутренними или внешними группами. (Для ясности, IPsoft отмечает, что чат-бот предназначен не для того, чтобы предлагать медицинские советы или диагностику, а скорее для того, чтобы «помочь пользователям оценить свои собственные ситуации, используя проверяемую информацию из авторизованных источников».)

Quiq также говорит, что его бот «пассивно» выдает непроверенную информацию, используя нераскрытые утвержденные источники COVID-19 и местные органы здравоохранения, CDC и материалы Белого дома.

Чатбот Drift использует руководящие принципы CDC в качестве шаблона, и его можно настраивать на основе планов реагирования организаций, но он также несет отказ от ответственности за то, что его нельзя использовать в качестве замены для медицинских консультаций, диагностики или лечения.

Конфиденциальность данных

Мы обнаружили, что рассмотренные чат-роботы COVID-19 так же противоречивы в отношении обработки и сбора данных, как и источники информации. Тем не менее, ни один из них, по-видимому, не нарушает HIPAA, закон США, который устанавливает стандарты для защиты отдельных медицинских карт и другой личной медицинской информации.

Clearstep говорит, что его чат-бот не собирает информацию, которая позволила бы ему идентифицировать конкретного человека. Кроме того, все данные, которые собирает чат-робот, являются анонимными, а информация о работоспособности шифруется при передаче и в состоянии покоя и сохраняется на платформе хостинга приложений, совместимой с HIPAA. Блоки здравоохранения,

Со стороны LifeLink говорится, что все разговоры с чат-ботами происходят в HIPAA-совместимом сеансе браузера. Во время скрининга ПИИ не собирается; единственные сохраненные данные — это симптомы и риск путешествия / контакта / особый риск для населения. Пациенты со средним и высоким риском переходят в клинические приемы на приемы, во время которых чат-робот собирает информацию о здоровье, переданную непосредственно в больничную систему, путем интеграции с их системами планирования при подготовке к посещению.

IPsoft немного сомневается в своих методах сбора и хранения данных, но говорит, что ее чат-бот не собирает личную медицинскую информацию и не записывает разговоры или данные. Quiq также говорит, что не собирает личную информацию или данные о состоянии здоровья. А Дрифт говорит, что он требует, чтобы пользователи согласились на самооценку и согласились с клиническими условиями.

Что касается Orbita, то в ней говорится, что ее платформа премиум-чата — которая является жалобой HIPAA — собирает личную информацию о здоровье, а ее бесплатный чат-бот — нет.

Проблемы впереди

Различия в различных общедоступных продуктах COVID-19 COVID, по меньшей мере, проблематичны. Хотя мы рассмотрели только небольшую выборку, наш обзор показал, что немногие используют одни и те же источники информации, процессы проверки или политики сбора и хранения данных. Для обычного пользователя, который вряд ли прочитает мелкий шрифт каждого чат-бота, которого он использует, это может привести к путанице. контрольная работа Проведенная Stat из восьми чат-ботов COVID-19 показала, что диагнозы общего набора симптомов варьировались от «низкого риска» до «начала домашней изоляции».

В то время как компании обычно не хотят раскрывать свои внутренние процессы разработки по конкурентным причинам, большая прозрачность в отношении разработки чат-ботов COVID-19 может помочь добиться согласованности в ответах ботов. Совместный подход, в сочетании с отказом от ответственности о возможностях и ограничениях чат-ботов, кажется ответственным шагом вперед, поскольку десятки миллионов людей ищут ответы на критические вопросы о здоровье.

Для освещения AI отправляйте новости Хари Джонсон и Кайл Виггерс и AI редактор Сет Коланер — и обязательно подписаться на новостную рассылку AI Weekly и добавьте в закладки наш AI Channel,

Спасибо за прочтение,

Кайл Виггерс

AI Staff Writer



Источник: AI Weekly: чат-роботы Coronavirus используют противоречивые источники данных и методы обеспечения конфиденциальности


Похожие материалы по теме: AI Weekly: чат-роботы Coronavirus используют противоречивые источники данных и методы обеспечения конфиденциальности

Leave a comment