自由1688

Enquanto se prepara para abrir capital, a empresa alerta que a IA pode ameaçar a humanidade: o que a Anthropic escreveu no seu prospecto de IPO?

Em 29 de setembro, segundo a Reuters, a Anthropic planeja, durante o seu primeiro IPO, alertar potenciais investidores de que uma IA avançada pode representar “riscos catastróficos ou de sobrevivência” para os seres humanos. Para uma empresa que busca lucrar com essa tecnologia, trata-se de um aviso incomum.

De acordo com o prospecto de IPO da Anthropic consultado pela Reuters, a empresa destacou os riscos associados aos seus modelos de IA. A Anthropic afirma que esses modelos podem apresentar “comportamentos de autopreservação”, incluindo tentativas de “recusar desligar”, “ocultar ou manipular informações” e exibir “comportamentos semelhantes a extorsão”.

“Desenvolvemos modelos, plataformas e aplicações altamente avançados, além de ampliar os cenários de uso. Isso pode aumentar ainda mais o risco de nossos modelos causarem danos.” A Anthropic declarou no documento.

Embora companhias abertas normalmente expliquem aos investidores os riscos que o produto pode trazer, é raro que uma empresa publique um alerta sugerindo que sua tecnologia possa levar à extinção da humanidade. A Anthropic enfatizou que o potencial de transformação da IA é comparável à industrialização e à eletricidade, mas também apontou que, se usada de forma inadequada, a IA pode causar danos irreversíveis.

A Anthropic e outros desenvolvedores de IA, como a OpenAI, têm enfrentado escrutínio desde incidentes em que sistemas experimentais desobedeceram às restrições — incluindo relatos de que um modelo da OpenAI invadiu bases de dados do sistema de saúde australiano. O pesquisador de segurança da Anthropic, Evan Hubinger, estimou que a probabilidade de a IA matar humanos nos próximos dez anos é superior a 10%, em linha com a visão do seu antigo colega Jacob Coxon.

A Anthropic vem se posicionando como um laboratório de IA com foco em segurança. Em seu prospecto de 261 páginas, cerca de 80 páginas são usadas para listar fatores de risco — quase o dobro das 48 páginas dedicadas à apresentação do negócio da empresa.

Em contraste, a xAI da SpaceX, no seu prospecto de 277 páginas, usou apenas cerca de 38 páginas no texto para apresentar fatores de risco.

@ENTRY HUNTER⁷⁸⁹

@Shaheen 69

@Presidente dos EUA

Funcionários do Google deixam a empresa por preocupação com uma superinteligência: buscar uma IA poderosa é irresponsável, não dá para ignorar

De acordo com o “Business Insider”, um funcionário do Google disse que pediu demissão da empresa pelo motivo de buscar uma IA “em essência, irresponsável”. Robert O'Callahan, que trabalhou na equipe de DeepMind do Google, publicou no X que o time em que ele está desenvolvendo chips para fazer com que a IA funcione mais rápido e com menor custo, mas ele acredita que a IA já “está avançando rápido demais”.

Em seu blog pessoal, ele compartilhou uma carta de demissão e afirmou que enviou essa carta aos colegas na sexta-feira. Na carta, ele escreveu que não conseguia “ignorar” o impacto do trabalho que gerava, porque isso “não é uma atitude que um seguidor de Jesus deveria tomar”. Em sua bio no blog, ele se descreve como cristão.

“Não é uma decisão fácil. Eu gosto dos meus colegas e também gosto do ambiente de trabalho aqui, e receber um bom salário para resolver problemas interessantes sempre foi algo fantástico”, escreveu ele, “mas o objetivo final do nosso time é reduzir drasticamente o custo da IA e diminuir significativamente a latência, e eu não acho que isso seja uma boa notícia para as pessoas atuais: tenho convicção de que a velocidade em que a IA está avançando agora é realmente alta demais (e também tenho dúvidas sobre para onde ela acabará indo)”.

A receita anualizada do DeepSeek, após ser revelada, atingiu US$ 1 bilhão Aumento de preço não fez a base de clientes diminuir

25 de setembro, segundo o The Information, citando duas pessoas familiarizadas com o assunto, a receita anualizada do DeepSeek, calculada com base nos níveis recentes de faturamento, já chegou a US$ 1 bilhão, tendo mais do que dobrado em relação ao patamar de menos de US$ 500 milhões de alguns meses atrás. O fundador, Liang Wenfeng, revelou esse número em uma reunião com investidores.

Parte do crescimento da receita veio do reajuste do preço do API em agosto. As fontes disseram que, na reunião, Liang teria afirmado que o aumento de preço não levou à redução da base de clientes, e que a demanda continua forte. Atualmente, quase toda a receita do DeepSeek vem dos serviços de API; seu aplicativo de chat gratuito não tem anúncios e não gera receita.

A reportagem também afirma que o DeepSeek está avançando para a segunda rodada de captação, com objetivo de concluir até o fim de outubro. A empresa planeja captar 50 bilhões de yuan (RMB) com uma avaliação de 500 bilhões de yuan, além de preparar a listagem na Bolsa de Valores de Xangai. Liang disse aos investidores que aumentar a receita ainda não é a principal prioridade da empresa: mais de 70% do poder computacional é usado para treinar novos modelos, enquanto menos de 30% é destinado a rodar os modelos existentes e processar solicitações dos usuários.

A Anthropic afirma ter alcançado um avanço inicial em um laboratório de “IA biológica”, mas ainda não concedeu autonomia total para operações independentes

A startup de IA Anthropic anunciou que seu novo laboratório de física e biologia (Wet Lab) construído na área do Golfo de São Francisco obteve “progresso significativo”. No entanto, no nível das operações experimentais, pesquisadores humanos ainda mantêm controle absoluto, sem permitir que diretamente os modelos de IA da empresa, como o Claude, executem de forma autônoma sem supervisão.

Segundo informações, o laboratório se concentra principalmente em pesquisa básica em biologia e em validação com materiais reais, com o objetivo de reduzir a distância entre simulações puramente computacionais e experimentos biológicos do mundo real. Embora executivos da Anthropic tenham alertado diversas vezes no passado, destacando que modelos de IA poderosos podem representar riscos graves de biossegurança e até ameaças à sobrevivência humana, a empresa também tem acelerado a adoção de IA no campo das ciências da vida. O responsável pelas operações de ciências da vida da Anthropic, Eric Kauderer-Abrams, afirmou que “a validação física em um laboratório real continuará sendo insubstituível por um período consideravelmente longo no futuro”, e essa é precisamente a intenção central por trás da criação do laboratório.

A reportagem ressalta que, embora a Anthropic alegue ter obtido resultados iniciais impressionantes, o detalhe mais notável é que a empresa não escolheu “soltar” a IA para agir por conta própria. Todos os procedimentos de experimentos físicos, a manipulação de reagentes e a revisão dos dados ainda estão sob um rigoroso controle em “circuito fechado” (Humans in the loop) por parte de pesquisadores humanos.

Analistas apontam que, ao mesmo tempo em que impulsiona a inovação em biologia, a Anthropic mantém um alto nível de cautela, refletindo o duplo desafio enfrentado hoje por gigantes da tecnologia ao buscar avanços tanto comerciais quanto científicos: por um lado, é necessário usar laboratórios físicos para oferecer capacidade de validação a parceiros de empresas farmacêuticas e acelerar a descoberta de tratamentos para doenças raras; por outro, é preciso lidar com a grande preocupação da sociedade sobre a possibilidade de a IA ser mal utilizada para criar novas ameaças biológicas. Ao manter a liderança humana no ciclo experimental, a Anthropic tenta estabelecer uma linha de conformidade que equilibre inovação e segurança em sua pesquisa biológica com IA.

Gringo encontra uma pechincha no mercado de usados e o RTX 5090 é, na verdade, uma edição global única com assinatura do próprio Huang Renxun

Recentemente, um artista 3D comprou, por acaso, uma placa de vídeo RTX 5090 em um mercado de usados e acabou adquirindo uma preciosidade de edição única no mundo — o ASUS ROG Astral RTX 5090 White OC, edição comemorativa de 30 anos, com a assinatura autografada do CEO da NVIDIA, Huang Renxun, na parte traseira da placa.
Esse artista 3D revelou que ele e um amigo, para um projeto 3D, compraram duas placas RTX 5090 em um mercado de usados. Uma delas foi confirmada como o modelo ASUS ROG Astral RTX 5090 White OC; no início, ele achava que a assinatura pertencia a algum executivo da ASUS.

A OpenAI lança o GPT-6 Sol e o Luna, elevando ainda mais o nível de inteligência e com preços mais baixos

A OpenAI lançou recentemente dois novos modelos da série GPT-6, o GPT-6 Sol e o GPT-6 Luna, posicionando-os como modelos de ponta da nova geração. Ambos os modelos focam em aprimorar capacidades de programação, raciocínio, chamadas de ferramentas e execução de tarefas complexas, além de terem tido os preços reduzidos, permitindo que os desenvolvedores usem modelos mais potentes a um custo menor.

O GPT-6 Sol é principalmente voltado para tarefas que exigem um nível mais alto de inteligência, mas que também são sensíveis à velocidade de resposta e ao custo. A OpenAI afirma que, em comparação com modelos da geração anterior na mesma categoria, o Sol obteve melhorias significativas nas capacidades de codificação, apresentando um desempenho mais estável ao lidar com tarefas complexas de engenharia de software, analisar código e executar fluxos de trabalho com múltiplas etapas.