A IA pode soar segura e ainda assim estar errada — verifique antes de partilhar
Uma resposta bem elaborada não é prova. A IA generativa pode apresentar detalhes falsos com toda a confiança — ou citações que parecem convincentes, mas não sustentam a afirmação.
O NIST chama a este risco «confabulação». As suas orientações sobre IA generativa recomendam avaliar empiricamente as alegações sobre capacidades e verificar fontes e citações durante os testes e a monitorização contínua.
Porque é importante: uma linguagem fluente pode gerar confiança indevida. Antes de confiar numa resposta da IA, consulte as fontes, verifique nomes, números e datas importantes e peça a revisão de uma pessoa qualificada para decisões de alto risco.
A minha conclusão: use a IA para ganhar tempo, mas mantenha a verificação independente no processo. O que verifica primeiro — factos, fontes ou números?
Fonte: NIST, Perfil de IA Generativa — https://nvlpubs.nist.gov/nistpubs/ai/NIST.AI.600-1.pdf
#AI #Technology #DigitalTrust
Uma resposta bem elaborada não é prova. A IA generativa pode apresentar detalhes falsos com toda a confiança — ou citações que parecem convincentes, mas não sustentam a afirmação.
O NIST chama a este risco «confabulação». As suas orientações sobre IA generativa recomendam avaliar empiricamente as alegações sobre capacidades e verificar fontes e citações durante os testes e a monitorização contínua.
Porque é importante: uma linguagem fluente pode gerar confiança indevida. Antes de confiar numa resposta da IA, consulte as fontes, verifique nomes, números e datas importantes e peça a revisão de uma pessoa qualificada para decisões de alto risco.
A minha conclusão: use a IA para ganhar tempo, mas mantenha a verificação independente no processo. O que verifica primeiro — factos, fontes ou números?
Fonte: NIST, Perfil de IA Generativa — https://nvlpubs.nist.gov/nistpubs/ai/NIST.AI.600-1.pdf
#AI #Technology #DigitalTrust