自由1688

Mientras prepara su salida a bolsa, advierte que la IA podría poner en riesgo a la humanidad ¿Qué escribió Anthropic en su folleto de salida a bolsa?

El 29 de septiembre, según informó Reuters, Anthropic planea, durante su oferta pública inicial (IPO), advertir a posibles inversores de que la IA avanzada podría representar “riesgos catastróficos o de supervivencia” para los seres humanos. Para una empresa que busca obtener ganancias a partir de esta tecnología, se trata de una advertencia inusual.

De acuerdo con el folleto de IPO de Anthropic consultado por Reuters, la compañía destacó los riesgos asociados con sus modelos de IA. Anthropic indicó que estos modelos podrían mostrar “conductas de autoprotección”, incluyendo intentos de “negarse a apagarse”, “ocultar o manipular información” y realizar conductas “similares a chantaje”.
“Desarrollamos modelos, plataformas y aplicaciones altamente avanzados, y ampliamos los escenarios de aplicación, lo cual podría aumentar aún más el riesgo de que nuestros modelos causen daños.” Así lo señaló Anthropic en el documento.

Aunque las empresas que salen a bolsa suelen informar a los inversores sobre los riesgos potenciales de sus productos, es raro que publiquen una advertencia que sugiera que su tecnología podría llevar a la extinción humana. Anthropic subrayó que el potencial transformador de la IA es comparable a la industrialización y la electricidad, pero al mismo tiempo señaló que, si se utiliza de manera incorrecta, la IA podría causar daños irreversibles.

Anthropic y otros desarrolladores de IA, como OpenAI, han sido objeto de escrutinio tras incidentes en los que sistemas experimentales desafiaron las restricciones. Entre los reportes figuran que un modelo de OpenAI habría accedido a bases de datos del sistema de salud en Australia. El investigador de seguridad de Anthropic, Evan Hubinger, estimó que la probabilidad de que la IA mate a personas en los próximos diez años supera el 10%, en línea con la opinión de su excolega Jacob Coxon.

Anthropic se ha posicionado durante tiempo como un laboratorio de IA con la seguridad como prioridad. En el cuerpo de su folleto, de 261 páginas, unas 80 se destinan a enumerar factores de riesgo: casi el doble de las 48 páginas usadas para presentar las actividades de la empresa.

En comparación, xAI de SpaceX, en el cuerpo de su folleto de 277 páginas, solo utilizó alrededor de 38 páginas para presentar los factores de riesgo.

@ENTRY HUNTER⁷⁸⁹

@Shaheen 69

@Presidente de Estados Unidos

Los empleados de Google renuncian por preocupación ante la superinteligencia: buscar una IA más potente sin responsabilidad, “no se puede ignorar”

Según informa Business Insider, un empleado de Google señaló que ya se ha retirado de la empresa. Su motivo fue que perseguir una IA “más poderosa” es, en esencia, “irresponsable”. Robert O’Callahan, quien trabajó en Google DeepMind, publicó en X que su equipo está desarrollando chips para que la IA funcione más rápido y a un costo menor, y que, en su opinión, la IA ya “avanza demasiado rápido”.

En su blog personal compartió una carta de renuncia y dijo que se la envió a sus colegas el viernes. En la carta escribió que no podía “ignorar” el impacto que generaría su trabajo, porque hacerlo “no es algo que un seguidor de Jesús deba hacer”. En la sección de información personal de su blog se describe como cristiano.

“Esta no es una decisión fácil. Me gustan mis compañeros y me gusta el ambiente de trabajo aquí, y resolver problemas interesantes con un salario sustancioso siempre ha sido algo excelente”, escribió: “Pero el objetivo final de nuestro equipo es reducir drásticamente el costo de la IA y disminuir de forma significativa la latencia, y yo creo que para la gente de hoy no es algo bueno: estoy convencido de que la velocidad a la que la IA está progresando ahora mismo es simplemente demasiado rápida (y también tengo dudas sobre hacia dónde terminará yendo finalmente)”.

DeepSeek revela que los ingresos anualizados alcanzan los 1.000 millones de dólares; tras la subida de precios, los clientes no disminuyen

25 de septiembre, según informó The Information citando a dos personas familiarizadas con el tema. DeepSeek, tomando como referencia los niveles de ingresos recientes, ha llegado a unos ingresos anualizados de 1.000 millones de dólares, lo que supone un aumento de más del doble frente a los menos de 500 millones de dólares de hace unos meses. El fundador, Liang Wenfeng, reveló esta cifra recientemente en una reunión con inversores.

El crecimiento de los ingresos proviene en parte de la subida de precios del API en agosto. Las fuentes señalaron que, en la reunión, Liang dijo que el incremento de precios no provocó que se redujera la base de clientes, y que la demanda sigue siendo sólida. En la actualidad, casi todos los ingresos de DeepSeek provienen de servicios de API; su aplicación de chat gratuita no tiene anuncios y no genera ingresos.

El informe también indica que DeepSeek está avanzando con una segunda ronda de financiación. El objetivo es cerrar el proceso antes de finales de octubre. Planea recaudar 50.000 millones de RMB con una valoración de 500.000 millones de RMB, y al mismo tiempo se prepara para salir a bolsa en la Bolsa de Valores de Shanghái. Liang dijo a los inversores que aumentar los ingresos no es la prioridad principal de la empresa: actualmente, más del 70% de la capacidad informática se destina al entrenamiento de nuevos modelos, y menos del 30% a ejecutar los modelos existentes y a gestionar las solicitudes de los usuarios.

Anthropic logra avances iniciales en su laboratorio de experimentación con IA, pero aún no otorga permisos de operación totalmente autónoma

La startup de inteligencia artificial Anthropic anunció que su nuevo laboratorio de física y biología de IA (Wet Lab) en la Bahía de San Francisco ha logrado “un avance significativo”. Sin embargo, a nivel de operación experimental, los investigadores humanos siguen manteniendo el control absoluto y no han permitido que sus modelos de IA Claude se ejecuten de forma autónoma sin supervisión directa.

Según se informa, este laboratorio se centra principalmente en la investigación básica en biología y en la validación con evidencia física, con el objetivo de reducir la brecha entre las simulaciones puramente computacionales y los experimentos biológicos reales. Aunque directivos de Anthropic ya han emitido varias advertencias en el pasado, señalando que modelos de IA potentes podrían conllevar riesgos de bioseguridad extremadamente graves e incluso un posible peligro para la supervivencia humana, la empresa también está acelerando la implementación de la IA en aplicaciones del ámbito de las ciencias de la vida. El responsable de su área de ciencias de la vida, Eric Kauderer-Abrams, señaló que “la verificación física en un laboratorio real seguirá siendo insustituible durante bastante tiempo en el futuro”, y esa es precisamente la razón clave por la cual la empresa estableció este laboratorio.

Las informaciones subrayan que, aunque Anthropic afirma haber logrado resultados iniciales notables, el detalle más llamativo es que la empresa no eligió “soltar” a la IA sin restricciones. Todos los procesos de experimentación física, la manipulación de reactivos y la revisión de datos siguen estando, por el momento, bajo un riguroso control de circuito cerrado por parte de investigadores humanos (Humans in the loop).

Los analistas indican que Anthropic, al impulsar la innovación en biología, mantiene un alto nivel de cautela, lo que refleja el doble dilema que enfrentan hoy los gigantes tecnológicos al perseguir avances tanto comerciales como científicos: por un lado, necesitan aprovechar un laboratorio físico para ofrecer capacidades de validación a socios de la industria farmacéutica y acelerar el abordaje de enfermedades raras; por otro, deben responder a las grandes preocupaciones de la sociedad sobre el posible abuso de la IA para crear nuevas amenazas biológicas. Al insistir en conservar el papel dominante de los humanos dentro del ciclo experimental, Anthropic intenta trazar una línea roja regulatoria que busque equilibrar innovación y seguridad en sus investigaciones biológicas con IA.

El extranjero en el mercado de segunda mano encuentra una ganga con una RTX 5090: resulta ser una firma autógrafa de Huang Renxun, globalmente única

Recientemente, un artista 3D compró, por casualidad, una joya de alcance mundial al adquirir una tarjeta gráfica RTX 5090 en el mercado de segunda mano: se trata de una edición conmemorativa del 30 aniversario de la ASUS ROG Astral RTX 5090 White OC, única en el mundo, con la firma autógrafa del CEO de NVIDIA, Huang Renxun, impresa en el reverso de la tarjeta.
Este artista 3D reveló que él y un amigo, para un proyecto 3D, compraron dos tarjetas gráficas RTX 5090 en el mercado de segunda mano. Una de ellas se identificó como la versión ASUS ROG Astral RTX 5090 White OC; al principio, él pensó que la firma pertenecía a algún directivo de ASUS.

OpenAI lanza GPT-6 Sol y Luna, elevando aún más los niveles de inteligencia y con un precio más bajo

Recientemente, OpenAI presentó dos nuevos modelos de la serie GPT-6, GPT-6 Sol y GPT-6 Luna, y los posicionó como modelos de vanguardia de nueva generación. Ambos modelos mejoran de forma prioritaria la programación, el razonamiento, la llamada a herramientas y la capacidad de ejecutar tareas complejas; además, ajustaron la fijación de precios a la baja, para que los desarrolladores puedan utilizar modelos más potentes a un costo menor.

GPT-6 Sol está dirigido principalmente a tareas que requieren un nivel de inteligencia más alto y, al mismo tiempo, son sensibles tanto a la velocidad de respuesta como al costo. OpenAI indicó que, en comparación con los modelos de la generación anterior del mismo nivel, Sol ha logrado avances evidentes en capacidades de codificación. En la gestión de tareas complejas de ingeniería de software, el análisis de código y la ejecución de flujos de trabajo de múltiples pasos, su desempeño resulta más estable.