A IBM apresentou uma nova tecnologia que dá às empresas mais transparência nos modelos de Inteligência Artificial (IA). O novo serviço de software, disponível na nuvem, com novos recursos de confiança e transparência, dá visibilidade sobre os parâmetros que a IA usa para chegar às recomendações e detecta automaticamente vieses no momento em que os sistemas estão em execução.
Para apoiar a adoção de projetos em IA, a companhia irá disponibilizar para a comunidade open source ferramentas e materiais de educação para incentivar a colaboração global em torno do gerenciamento do viés na IA.
Resultados de uma nova pesquisa do Institute for Business Value da IBM revelam que, enquanto 82% das empresas estão considerando implementações de IA, 60% ainda temem problemas de responsabilidade e compliance e 63% não possuem habilidades internamente para gerenciar com confiança a tecnologia.
“A IBM liderou o setor ao estabelecer princípios de transparência para o desenvolvimento de novas tecnologias de IA”, disse Beth Smith, General Manager para Watson AI na IBM. “É hora de traduzir princípios em prática. Estamos dando nova transparência e controle às empresas que usam inteligência artificial e enfrentam o maior risco potencial de qualquer tomada de decisão incorreta”.
A tecnologia é executada na IBM Cloud e ajuda as organizações a gerenciar sistemas de inteligência artificial de uma ampla variedade de players do setor. IBM Services também trabalhará com as empresas para ajudá-las a aproveitar o novo serviço de software.
Visibilidade nas decisões de IA – Como a tecnologia funciona
Os novos recursos de Confiança e Transparência da IBM trabalham com modelos construídos a partir de uma grande variedade de estruturas de machine learning e ambientes construídos com inteligência artificial, como Watson, Tensorflow, SparkML, AWS SageMaker, and AzureML. Isso significa que as organizações podem aproveitar esses novos controles para a maioria dos códigos de IA e demais plataformas utilizadas por outras empresas que atuam neste mercado.
O serviço de software pode ser programado para monitorar os fatores de decisão de qualquer workflow de negócio, podendo ser personalizado para o uso específico das organizações. Além disso, ele é totalmente automatizado e explica a tomada de decisões ao longo da execução. É importante ressaltar que também recomenda automaticamente que dados sejam adicionados ao modelo para ajudar a atenuar qualquer tendência de viés detectada.
As explicações são fornecidas em termos fáceis de entender, mostrando quais fatores ajustaram a decisão em uma direção versus outra, apontando a confiança na recomendação e os fatores por trás dessa confiança. Além disso, os registros de precisão, desempenho, equidade do modelo, e a linhagem dos sistemas de inteligência artificial são rastreados e direcionados para atendimento ao cliente, por motivos regulatórios ou de conformidade – tais como o cumprimento da GDPR.
Todos esses recursos são acessados por meio de painéis de controle visuais, dando aos usuários de negócios a capacidade sem precedentes para compreender, explicar e gerenciar decisões indicadas por IA e reduzir a dependência de habilidades específicas desta tecnologia.
A IBM também está disponibilizando novos serviços de consultoria para ajudar as empresas a projetar processos de negócios e interfaces entre inteligência artificial e humanos para minimizar ainda mais o impacto do viés na tomada de decisões.
Capacitando a comunidade open source
Além disso, IBM Research está disponibilizando para a comunidade de código aberto o toolkit de ferramentas AI Fairness 360, que consiste em uma biblioteca de novos algoritmos, códigos e tutoriais que fornecerá aos acadêmicos, pesquisadores e cientistas de dados ferramentas e conhecimento para integrar detecção de preconceito, enquanto constroem e implementam modelos de machine learning.
Embora outros recursos de código aberto tenham se concentrado apenas na verificação de viés nos dados de treinamento, o toolkit de ferramentas IBM AI Fairness 360 criado pela IBM Research ajudará a verificar e atenuar o viés nos modelos de IA. Com isso, convidamos a comunidade global de código aberto a trabalhar em conjunto para promover a ciência e facilitar a abordagem do viés na IA. Mais detalhes sobre a tecnologia podem ser lidos neste link.
Estudo revela prioridades e obstáculos
De acordo com o estudo recente da IBM com cinco mil executivos sênior, o IBM Institute for Business Value AI 2018 Report, há uma mudança significativa na forma como os líderes de negócios analisam o potencial da IA para impulsionar o valor comercial e o crescimento da receita.
Entre as principais descobertas:
– 82% das empresas e 93% das empresas de alto desempenho estão considerando ou avançando na adoção da IA com foco na geração de receita.
– 60% temem questões relacionadas a confiança e 63% não possuem as habilidades para aproveitar o potencial da IA.
– Os CEOs percebem o maior valor da adoção da IA em TI, segurança da informação, inovação, atendimento ao cliente e gerenciamento de riscos.
– A adoção da IA é maior e provavelmente acelerará mais rapidamente em setores mais digitalizados, como os serviços financeiros.
