Direito Empresarial, Assuntos Regulatórios, Regulamentação de Medicamentos, Eleitoral, Digital, Trabalhista e Previdenciário (INSS) em Campinas e região
quarta-feira, 21 de novembro de 2018
Por que dados errados são o maior risco para a inteligência artificial
As tecnologias de inteligência artificial (AI, na sigla em inglês), como o machine learning, prometem transformar radicalmente muitas indústrias, mas também representam riscos significativos - muitos dos quais ainda não descobertos, uma vez que só agora essas inovações começam a atingir um público maior.
Já houve uma série de exemplos públicos e embaraçosos de AI que foram ruins, e embaraçosos. A Tay, da Microsoft, passou de um assistente digital inocente para o Twitter a um chatbot racista e louco, em apenas um dia, após ser corrompido por trolls. Há dois anos, o Google teve de barrar as buscas por palavras-chave como “gorila” e “chimpanzé” porque elas retornavam imagens de pessoas negras – e o problema ainda não está totalmente solucionado no app Google Photos.
À medida que mais empresas passam a utilizar a AI, as apostas ficam mais altas. “Acordamos suando”, afirma Ankur Teredesai, diretor de AI da startup KenSci, que aplica Inteligência Artificial a dados de serviços de saúde. “No fim do dia, estamos falando sobre pacientes e vidas reais.”
A plataforma de AI da KenSci faz recomendações de cuidados de saúde para médicos e empresas de seguro. Se houver erros nos registros médicos, ou nos conjuntos de treinamento usados para criar os modelos preditivos, as consequências podem ser fatais. Uma situação que joga luz sobre um fator de risco importante para as implementações de AI: a qualidade da governança de dados das companhias.
Proteções
A KenSci lida com milhões de registros de pacientes de organizações parceiras ao redor do mundo. As informações estão em idiomas, padrões e formatos diferentes, e estão organizadas em modelos diferentes de classificação.
Para resolver esse problema, a KenSci usa ferramentas próprias e de terceiros, e também depende das organizações parceiras.
“Os sistemas de saúde investiram quantidades significativas de esforço para ajustar protocolos e compliance, para assegurar que os seus ativos de dados sejam os mais limpos possíveis”, afirma. “Há cinco ou dez anos, esse era um grande problema. Hoje, por causa da maturidade da digitalização na maioria do mundo ocidental, na Ásia e na Austrália, há uma codificação significativamente menos discrepante. Uma boa parte do mundo seguiu para a padronização.”
Para diminuir os riscos de dependência da AI, a KenSci possui três camadas adicionais de segurança. Em primeiro, há uma linha de frente de defesa contra erros: os médicos que realizam os cuidados.
Nenhum comentário:
Postar um comentário