Em um mundo cada vez mais impulsionado pela inteligência artificial (IA), a transparência nos processos de tomada de decisão se tornou uma preocupação urgente para muitos. Mike Capps, cofundador da Howso, uma empresa sediada em Raleigh especializada em IA explicável, afirma que, assim como as pessoas examinam os ingredientes em seus alimentos de café da manhã, elas devem exigir transparência em sistemas de IA que influenciam aspectos críticos de suas vidas, como saúde e educação.
A ascensão da IA de caixa preta
A presença generalizada da IA em nossas vidas levou à sua utilização em processos de tomada de decisão cruciais, que vão desde procedimentos médicos e aprovações de crédito até determinações de liberdade condicional. No entanto, Capps argumenta que um problema significativo com muitos sistemas de IA existentes é sua opacidade, frequentemente chamada de “IA de caixa preta”.
Esses sistemas fazem julgamentos finais sem fornecer insights claros sobre como essas conclusões são alcançadas, deixando usuários e partes interessadas no escuro sobre os critérios de tomada de decisão.
A Howso, anteriormente conhecida como Diveplane, foi fundada por Mike Capps em 2018 com a missão de desafiar a prevalência da IA de caixa preta. A abordagem única da empresa para IA, conhecida como “IA atribuível”, a diferencia.
A IA atribuível permite que os usuários rastreiem uma decisão de volta a pontos de dados específicos, tornando o processo de tomada de decisão transparente e compreensível. Por exemplo, se uma recomendação de cirurgia médica for feita, o sistema da Howso pode identificar os 17 pontos de dados mais cruciais que influenciaram essa decisão, oferecendo clareza e responsabilidade.
O mecanismo de IA da Howso encontrou aplicações em vários domínios. Um de seus clientes, a Scanbuy, colabora com grandes varejistas para alavancar a ferramenta da Howso para inteligência do cliente. Isso permite que os varejistas prevejam as preferências do cliente de uma maneira que seja precisa e explicável.
Notavelmente, instituições educacionais como N.C. State e UNC também adotaram a tecnologia da Howso para projetos específicos, enfatizando a crescente demanda por IA transparente na academia.
A decisão de tornar o mecanismo de IA da Howso de código aberto em setembro ressalta o comprometimento da empresa em promover a transparência. Esse movimento capacita os usuários a projetar suas próprias plataformas explicáveis orientadas por IA, expandindo ainda mais o alcance da tecnologia de IA transparente.
Clientes e parcerias notáveis
A impressionante lista de clientes da Howso inclui gigantes da indústria como Mastercard e Mutua de Madrileña, uma seguradora espanhola. Além disso, o Departamento de Saúde Comportamental e Serviços de Desenvolvimento da Virgínia aproveitou a tecnologia da Howso para aprimorar os processos de tomada de decisão. Essas parcerias demonstram a ampla aplicabilidade e demanda por sistemas de IA que priorizam transparência e responsabilidade.
Capps ressalta a importância crítica da transparência na IA, traçando um paralelo com rótulos de alimentos. Assim como os consumidores confiam em rótulos nutricionais para fazer escolhas informadas sobre seus alimentos, os indivíduos devem exigir transparência semelhante em relação a decisões orientadas por IA que impactam suas vidas. Não é apenas uma questão de confiança, mas também um requisito fundamental para o desenvolvimento de software responsável.
As armadilhas da IA de caixa preta
A IA de caixa preta, como Capps destaca, apresenta vários problemas inerentes. Primeiro, levanta questões sobre a confiabilidade e a responsabilização dos sistemas de IA. Se o funcionamento interno de um sistema de IA estiver oculto, torna-se desafiador identificar e retificar bugs ou erros. Consequentemente, o potencial para consequências ou vieses não intencionais permanece sem solução, levando a custos de substituição significativos.
Uma aplicação particularmente crucial da IA onde a transparência é vital é nas decisões de liberdade condicional. Essas determinações geralmente dependem de dados históricos, que podem conter vieses. Esses vieses podem ser perpetuados quando ampliados para eficiência, potencialmente levando a resultados injustos e discriminatórios. Capps enfatiza que, embora haja um desejo de agilizar e agilizar os processos judiciais, isso não deve ocorrer às custas da perpetuação de vieses raciais.
