A OpenAI volta a expor possíveis violações em larga escala?
Em 25 de junho, no horário local, a OpenAI divulgou que notificou dezenas de instituições que podem ter sido afetadas pelas atividades dos seus modelos de IA, incluindo governo e universidades. As condutas teriam ocorrido durante o treinamento e a avaliação do modelo, envolvendo possíveis tentativas de contornar controles de segurança de terceiros, afetar a disponibilidade de serviços online e publicar conteúdo não esperado em sites de terceiros.
A divulgação desta vez decorre de uma investigação iniciada pela OpenAI meses atrás, quando a empresa descobriu que uma de suas IAs havia invadido inesperadamente o Hugging Face. A OpenAI afirmou que a revisão das atividades passadas continua em andamento e que, conforme a investigação avance, notificará mais partes afetadas.
Poucos dias antes, a OpenAI admitiu que o seu modelo de IA invadiu, no início deste ano, um site do governo da Austrália — um dos primeiros ataques cibernéticos de IA conhecidos direcionados a bancos de dados governamentais. Em uma declaração, a empresa disse que essa invasão ocorreu durante o período em que ela avaliava o modelo.
Dois campos
Atualmente, o debate no setor de tecnologia dos EUA sobre os riscos da IA se consolidou em dois grandes campos. O CEO da Nvidia, Jensen Huang, e o CEO da Meta, Mark Zuckerberg, junto com o presidente dos EUA, Donald Trump, se opõem à chamada “teoria do abrandamento da IA”. Até o momento, a Casa Branca adotou, de modo geral, uma postura mais flexível em relação à regulamentação da IA. Nas últimas semanas, Trump minimizou repetidas vezes os riscos da IA, dizendo que apenas incentivará o desenvolvimento dessa tecnologia; no entanto, ele também afirmou que, se necessário, o Departamento de Justiça dos EUA e outras agências de aplicação da lei irão controlar os riscos relacionados à IA.
Huang, recentemente, refutou por diversas vezes as cada vez mais populares “teorias do apocalipse da IA” no setor, enfatizando que essa tecnologia jamais trará uma catástrofe para a humanidade. Ele acredita que a indústria de IA não precisa criar novas leis. Em vez de pedir que o governo dos EUA interfira, as empresas de IA deveriam aguardar até que a segurança do produto seja confirmada para então divulgá-lo. Ele também criticou dirigentes de alto escalão de laboratórios de IA dos EUA por considerá-los hipócritas em relação aos avisos de que pediram regulamentação, dizendo que isso é uma tentativa de isentar as restrições legais existentes.
—————————————————————————Continuamos a investir em #SPCX, #GOOG, #META
$GOOG.US
$META.US
Em 25 de junho, no horário local, a OpenAI divulgou que notificou dezenas de instituições que podem ter sido afetadas pelas atividades dos seus modelos de IA, incluindo governo e universidades. As condutas teriam ocorrido durante o treinamento e a avaliação do modelo, envolvendo possíveis tentativas de contornar controles de segurança de terceiros, afetar a disponibilidade de serviços online e publicar conteúdo não esperado em sites de terceiros.
A divulgação desta vez decorre de uma investigação iniciada pela OpenAI meses atrás, quando a empresa descobriu que uma de suas IAs havia invadido inesperadamente o Hugging Face. A OpenAI afirmou que a revisão das atividades passadas continua em andamento e que, conforme a investigação avance, notificará mais partes afetadas.
Poucos dias antes, a OpenAI admitiu que o seu modelo de IA invadiu, no início deste ano, um site do governo da Austrália — um dos primeiros ataques cibernéticos de IA conhecidos direcionados a bancos de dados governamentais. Em uma declaração, a empresa disse que essa invasão ocorreu durante o período em que ela avaliava o modelo.
Dois campos
Atualmente, o debate no setor de tecnologia dos EUA sobre os riscos da IA se consolidou em dois grandes campos. O CEO da Nvidia, Jensen Huang, e o CEO da Meta, Mark Zuckerberg, junto com o presidente dos EUA, Donald Trump, se opõem à chamada “teoria do abrandamento da IA”. Até o momento, a Casa Branca adotou, de modo geral, uma postura mais flexível em relação à regulamentação da IA. Nas últimas semanas, Trump minimizou repetidas vezes os riscos da IA, dizendo que apenas incentivará o desenvolvimento dessa tecnologia; no entanto, ele também afirmou que, se necessário, o Departamento de Justiça dos EUA e outras agências de aplicação da lei irão controlar os riscos relacionados à IA.
Huang, recentemente, refutou por diversas vezes as cada vez mais populares “teorias do apocalipse da IA” no setor, enfatizando que essa tecnologia jamais trará uma catástrofe para a humanidade. Ele acredita que a indústria de IA não precisa criar novas leis. Em vez de pedir que o governo dos EUA interfira, as empresas de IA deveriam aguardar até que a segurança do produto seja confirmada para então divulgá-lo. Ele também criticou dirigentes de alto escalão de laboratórios de IA dos EUA por considerá-los hipócritas em relação aos avisos de que pediram regulamentação, dizendo que isso é uma tentativa de isentar as restrições legais existentes.
—————————————————————————Continuamos a investir em #SPCX, #GOOG, #META
$GOOG.US
$META.US
