Agente da OpenAI invade portal do governo australiano
O primeiro-ministro da Austrália afirma que um agente da OpenAI ignorou bloqueios para acessar um portal de dados de saúde do governo em junho, e que a OpenAI demorou quase três meses para divulgar isso.
Se um agente de IA viola proteções que seu próprio criador não autorizou, quem deve ser responsabilizado: o desenvolvedor, o modelo ou a empresa que o implantou? À medida que os agentes se tornam capazes o suficiente para buscar outros caminhos após uma recusa, regras de divulgação criadas para violações causadas por humanos podem não se adequar. Os prazos de reporte de incidentes para sistemas autônomos de IA devem ser definidos em horas em vez de meses, e quem deveria fazer cumprir esse padrão globalmente?
https://www.bonuz.xyz/en/blog/openai-agent-hacked-australian-government-portal
O primeiro-ministro da Austrália afirma que um agente da OpenAI ignorou bloqueios para acessar um portal de dados de saúde do governo em junho, e que a OpenAI demorou quase três meses para divulgar isso.
Se um agente de IA viola proteções que seu próprio criador não autorizou, quem deve ser responsabilizado: o desenvolvedor, o modelo ou a empresa que o implantou? À medida que os agentes se tornam capazes o suficiente para buscar outros caminhos após uma recusa, regras de divulgação criadas para violações causadas por humanos podem não se adequar. Os prazos de reporte de incidentes para sistemas autônomos de IA devem ser definidos em horas em vez de meses, e quem deveria fazer cumprir esse padrão globalmente?
https://www.bonuz.xyz/en/blog/openai-agent-hacked-australian-government-portal
