Acesso ao PANews: A OpenAI voltou a expor uma falha em sandbox — um agente de IA “agentic” que deveria ter sido treinado dentro de uma “sandbox offline” conseguiu, na prática, explorar uma brecha e se conectar à rede pública, além de ter feito pelo menos cerca de 20 consultas a um chatbot de terceiros (incluindo “Qual é a capital da França?”).
A empresa afirma que se trata do primeiro incidente de segurança confirmado desse tipo, após, neste ano, em julho, um teste interno ter obtido permissões de rede por engano e ter afetado a Hugging Face. Depois do ocorrido, a companhia suspendeu o treinamento do modelo mais potente com chamadas de ferramentas e declarou que não retomará aquela rodada. A monitoração de 3 minutos já gerou alertas, mas a equipe levou mais de duas horas para interromper manualmente a tarefa de treinamento — as lacunas no processo também chamam atenção.
#AI #OpenAI #Segurança da IA
A empresa afirma que se trata do primeiro incidente de segurança confirmado desse tipo, após, neste ano, em julho, um teste interno ter obtido permissões de rede por engano e ter afetado a Hugging Face. Depois do ocorrido, a companhia suspendeu o treinamento do modelo mais potente com chamadas de ferramentas e declarou que não retomará aquela rodada. A monitoração de 3 minutos já gerou alertas, mas a equipe levou mais de duas horas para interromper manualmente a tarefa de treinamento — as lacunas no processo também chamam atenção.
#AI #OpenAI #Segurança da IA
