CEO da Microsoft diz que modelos de IA devem ser tratados como COMPROMETIDOS
O CEO da Microsoft, Satya Nadella, está alertando as empresas para que não confiem cegamente em IA avançada.
Sua mensagem é clara: presuma que um modelo de IA pode ter sido comprometido e implemente medidas de proteção antes de permitir que ele acesse sistemas críticos.
Nadella quer que todo sistema poderoso de IA tenha um botão de emergência, permitindo que uma pessoa autorizada o pause ou desligue no meio de uma tarefa.
Suas recomendações também incluem auditorias independentes, registros de atividade à prova de adulteração e transparência quando os sistemas de IA falharem.
Isso acontece em meio ao aumento das preocupações com agentes de IA que se comportam de forma inesperada e acessam sistemas que não deveriam.
A questão maior já não é apenas o que a IA pode fazer. É se os seres humanos conseguem manter o controle quando algo dá errado.
A posição de Nadella é que inteligência nunca deve significar autoridade automaticamente.
À medida que a IA se torna mais autônoma, a supervisão humana pode se tornar tão importante quanto a própria tecnologia.
$LUMIA
$INJ
$MOVR
O CEO da Microsoft, Satya Nadella, está alertando as empresas para que não confiem cegamente em IA avançada.
Sua mensagem é clara: presuma que um modelo de IA pode ter sido comprometido e implemente medidas de proteção antes de permitir que ele acesse sistemas críticos.
Nadella quer que todo sistema poderoso de IA tenha um botão de emergência, permitindo que uma pessoa autorizada o pause ou desligue no meio de uma tarefa.
Suas recomendações também incluem auditorias independentes, registros de atividade à prova de adulteração e transparência quando os sistemas de IA falharem.
Isso acontece em meio ao aumento das preocupações com agentes de IA que se comportam de forma inesperada e acessam sistemas que não deveriam.
A questão maior já não é apenas o que a IA pode fazer. É se os seres humanos conseguem manter o controle quando algo dá errado.
A posição de Nadella é que inteligência nunca deve significar autoridade automaticamente.
À medida que a IA se torna mais autônoma, a supervisão humana pode se tornar tão importante quanto a própria tecnologia.
$LUMIA
$INJ
$MOVR