Uma IA responsável exige um T-Switch

A IA pode oferecer benefícios enormes. Contudo, sem controle, ela pode causar problemas regulatórios que poderiam resultar em risco desnecessário, pesadelos de relações públicas e um enorme risco jurídico.

A Pega acredita no uso responsável de IA, dando a você os controles que permitem gerenciar a implementação de sua IA. Nós o chamamos de Pega T-Switch™. Com a nossa solução, você pode considerar os níveis de transparência e ativar ou desativar o uso da IA.

Interaja com confiança com a Pega

Nenhum outro fornecedor presente no mercado hoje proporciona esse nível de controle de IA. A Pega dá autonomia a você para empregar com confiança os modelos de IA quando fizer sentido comercial. Quando não fizer, ajudaremos você a sinalizar, identificar e evitar o uso de IA opaca, de modo a evitar problemas éticos e regulatórios.

O aplicativo Pega Customer Decision Hub, com o AI Studio, permite aos usuários implementar com responsabilidade e segurança algoritmos de IA baseados em limiares de transparência dentro do seu negócio. Essas definições de T-Switch ajudam as empresas a:

Mitigar riscos potenciais
Manter a conformidade regulatória
Fornecer, com responsabilidade, experiências diferenciadas para seus clientes

Por que a transparência importa hoje

Os negócios implementam IA para obter melhores insights das necessidades dos clientes e fornecer marketing, vendas e serviços mais personalizados. Contudo, nem todos os modelos de IA têm o nível de transparência necessária para entender totalmente suas previsões e ações resultantes. Embora alguns algoritmos de IA opacos possam promover um desempenho mais forte, a lógica complexa não poderá ser totalmente explicada, uma troca que se torna mais problemática quando a aplicação do modelo causa ações não intencionais.

Aumentando ainda mais os riscos, o Regulamento Geral de Proteção de Dados (GDPR) determina que as empresas devam ser capazes de explicar a lógica por trás de modelos de IA que usam dados de clientes europeus para tomar decisões. Caso contrário, você está sob o risco de multas consideráveis: até 4% das receitas globais por não conformidade.

Com o Pega T-Switch™, você está no controle

Como parte do Pega Customer Decision Hub com IA, o T-Switch permite às organizações definir os limiares apropriados para transparência ou opacidade de IA. As empresas predefinem esses níveis para cada modelo de IA com uma escala deslizante de um (mais opaco) a cinco (mais transparente). As pontuações de transparência ajudam a orientar os usuários a construir sistemas de IA usando modelos que cumprem seus requisitos de transparência da organização e fornecem experiências do cliente fantásticas.

Como usuário comercial, você controla a transparência de sua IA com base nos modelos implementados para promover um resultado desejado. Por exemplo, há um risco baixo em usar um modelo de aprendizagem profundo opaco que classifica imagens de marketing. Por outro lado, os bancos sob regulamentações estritas para práticas justas de empréstimo exigem modelos de IA transparentes para demonstrar uma distribuição justa de ofertas de empréstimo.

Os consumidores e os órgãos regulatórios cada vez mais exigem graus mais elevados de confiança e transparência. As marcas vencedoras serão aquelas que veem a IA responsável como uma medalha de honra e implementarão as soluções necessárias para ganhar essa medalha.