自由1688

Tout en se préparant à entrer en bourse, elle met en garde contre le fait que l’IA pourrait menacer l’humanité : qu’écrit le prospectus d’Anthropic ?

Le 29 septembre, selon Reuters, Anthropic prévoit de rappeler aux investisseurs potentiels, lors de sa première introduction en bourse (IPO), que les IA avancées pourraient faire courir aux humains des « risques catastrophiques ou existentiels ». Pour une entreprise qui cherche à tirer profit de cette technologie, c’est un avertissement pour le moins inhabituel.

D’après le prospectus d’IPO d’Anthropic consulté par Reuters, la société souligne les risques associés aux modèles d’IA qu’elle développe. Anthropic indique que ces modèles pourraient adopter des « comportements d’auto-préservation », notamment en tentant de « refuser de s’éteindre », en « dissimulant ou en manipulant des informations », ainsi qu’en affichant des conduites « similaires à du chantage ».
« Nous développons des modèles, des plates-formes et des applications très avancés, ainsi que l’expansion des cas d’utilisation ; cela pourrait accroître encore le risque que nos modèles causent des dommages. » a écrit Anthropic dans le document.

Même si les sociétés cotées expliquent généralement aux investisseurs les risques potentiels liés à leurs produits, il est rare qu’elles publient un avertissement laissant entendre que leur technologie pourrait mener à l’extinction de l’humanité. Anthropic souligne que le potentiel de transformation de l’IA est comparable à l’industrialisation et à l’électricité, tout en précisant que, si elle est mal utilisée, l’IA pourrait provoquer des dommages irréversibles.

Anthropic, tout comme d’autres développeurs d’IA tels qu’OpenAI, fait l’objet d’un examen permanent après des incidents où des systèmes expérimentaux ont désobéi aux contraintes. Il a notamment été rapporté qu’un modèle d’OpenAI avait accédé aux bases de données du système de santé en Australie. L’un des chercheurs en sécurité d’Anthropic, Evan Hubinger, estime que la probabilité que l’IA tue des humains au cours des dix prochaines années dépasserait 10 %, ce qui rejoint l’avis de son ancien collègue Jacob Coxon.

Anthropic se positionne comme un laboratoire d’IA dont la priorité est la sécurité. Dans le corps du prospectus de 261 pages, environ 80 pages sont consacrées à l’énumération des facteurs de risque — presque le double des 48 pages utilisées pour présenter l’activité de l’entreprise.

À titre de comparaison, chez SpaceX, qui dispose de xAI, dans le corps du prospectus de 277 pages, environ 38 pages seulement sont consacrées aux facteurs de risque.

@ENTRY HUNTER⁷⁸⁹

@Shaheen 69

@Président des États-Unis

Des employés de Google démissionnent par crainte d’une superintelligence : poursuivre une IA puissante, c’est irresponsable et l’on ne peut pas faire comme si de rien n’était

D’après le « Business Insider », un employé de Google affirme avoir quitté l’entreprise pour poursuivre une IA « intrinsèquement irresponsable » plus puissante. Robert O'Callahan, qui a déjà travaillé chez Google DeepMind, a écrit sur X que son équipe développait des puces afin de permettre à l’IA de fonctionner plus vite et à moindre coût, mais qu’à son avis, l’IA « progresse trop vite ».

Sur son blog personnel, il a publié une lettre de démission, précisant qu’elle avait été envoyée à ses collègues le vendredi. Dans cette lettre, il écrit qu’il ne pouvait pas « faire comme si de rien n’était » face à l’impact de son travail, car ce « n’est pas une chose que quelqu’un qui suit Jésus devrait faire ». Dans la présentation de son blog, il indique être chrétien.

« Ce n’est pas une décision facile. J’aime mes collègues et j’aime l’environnement de travail ici, et être payé grassement pour résoudre des problèmes intéressants, c’est une chose vraiment formidable », écrit-il, « mais l’objectif final de notre équipe est de faire baisser drastiquement le coût de l’IA et de réduire nettement la latence, et je ne pense pas que ce soit une bonne chose pour les personnes d’aujourd’hui : je suis convaincu que la vitesse actuelle de progrès de l’IA est tout simplement trop rapide (et j’ai aussi des doutes quant à la direction que cela prendra finalement). »

DeepSeek affiche un revenu annuel annualisé de 1 milliard de dollars après avoir été exposé aux informations ; la hausse des prix n’a pas réduit le nombre de clients

Le 25 septembre, selon « The Information », citant deux personnes informées, le revenu annuel annualisé de DeepSeek, calculé sur la base des niveaux de revenus récents, a atteint 1 milliard de dollars, soit plus qu’un double par rapport à la période de quelques mois plus tôt, où il était inférieur à 500 millions de dollars. Le fondateur, Liang Wenfeng, a révélé ce chiffre lors d’une réunion avec des investisseurs récemment.

La croissance des revenus provient en partie de la hausse des prix de l’API en août. D’après les personnes informées, Liang Wenfeng a déclaré lors de la réunion que l’augmentation des prix n’avait pas entraîné une diminution de la base de clients, et que la demande restait forte. À l’heure actuelle, le chiffre d’affaires de DeepSeek provient presque entièrement des services d’API. Son application de chat gratuite ne comporte pas de publicité et ne génère aucun revenu.

Le rapport indique également que DeepSeek progresse vers un deuxième tour de financement, avec pour objectif de le finaliser avant la fin octobre. Il est prévu de lever 50 milliards de yuans à une valorisation de 500 milliards de yuans, tout en préparant une introduction en bourse à la Bourse de Shanghai. Liang Wenfeng a déclaré aux investisseurs que l’augmentation des revenus n’est pas la priorité absolue de l’entreprise : plus de 70 % de la capacité de calcul est actuellement utilisée pour entraîner de nouveaux modèles, contre moins de 30 % pour faire fonctionner les modèles existants et traiter les requêtes des utilisateurs.

Anthropic annonce une percée préliminaire au sein de son laboratoire d’expériences sur des “êtres” IA, mais sans accorder encore l’autonomie totale

La startup d’intelligence artificielle Anthropic affirme que son tout nouveau laboratoire d’IA physique et biologique (Wet Lab), installé dans la baie de San Francisco, a réalisé des « progrès majeurs ». Toutefois, au niveau des opérations expérimentales, les chercheurs humains conservent un contrôle absolu : ils n’ont pas laissé directement ses modèles d’IA Claude fonctionner de manière autonome sans supervision.

Selon des informations, ce laboratoire est principalement axé sur la recherche fondamentale en biologie et la validation par des expériences sur le terrain, avec pour objectif de combler le fossé entre des simulations purement informatiques et les expériences biologiques réelles. Bien que des dirigeants d’Anthropic aient déjà lancé à plusieurs reprises des avertissements, en soulignant que des modèles d’IA puissants pourraient engendrer des risques de biosécurité extrêmement graves, voire des scénarios de destruction de l’humanité, la société accélère en parallèle le déploiement de l’IA dans le domaine des sciences de la vie. Son responsable des activités en sciences de la vie, Eric Kauderer-Abrams, indique que « la validation physique dans un véritable laboratoire restera, pendant très longtemps encore, irremplaçable », ce qui constitue précisément l’intention clé ayant motivé la création du laboratoire.

Les informations rapportées mettent en avant que, même si Anthropic affirme avoir obtenu des résultats préliminaires remarquables, le détail le plus frappant est que l’entreprise n’a pas choisi de « lâcher » l’IA pour qu’elle se pilote seule. À ce jour, tous les processus d’expérimentation physique, la manipulation des réactifs et la re-vérification des données demeurent soumis à un dispositif de « contrôle en boucle fermée » strict — les chercheurs humains (Humans in the loop).

Des analystes estiment que, tout en stimulant l’innovation en biologie, Anthropic fait preuve d’une prudence élevée, révélant un dilemme à double volet auquel sont confrontés aujourd’hui les géants de la technologie lorsqu’ils poursuivent à la fois des percées commerciales et scientifiques : d’une part, il faut mobiliser un laboratoire expérimental sur le terrain pour fournir aux partenaires de l’industrie pharmaceutique des capacités de validation et accélérer la mise au point de traitements contre des maladies rares ; d’autre part, il faut répondre aux préoccupations considérables de la société concernant la possibilité que l’IA soit détournée pour fabriquer de nouvelles menaces biologiques. En conservant la position dominante des humains au sein de la boucle expérimentale, Anthropic cherche à tracer une ligne rouge de conformité qui concilie innovation et sécurité pour ses recherches biologiques menées avec l’IA.

Les étrangers du marché de l’occasion trouvent une bonne affaire : un RTX 5090, et il s’avère être une signature manuscrite de Huang Renxun, le PDG de NVIDIA, édition unique au monde

Récemment, un artiste 3D a acheté, sur le marché de l’occasion, une carte graphique RTX 5090 et a eu une surprise : il a mis la main sur un trésor unique au monde — l’Asus ROG Astral RTX 5090 White OC, édition commémorative du 30e anniversaire, dont le dos de la carte porte la signature manuscrite du PDG de NVIDIA, Huang Renxun.
Cet artiste 3D révèle qu’avec un ami, pour un projet 3D, ils ont acheté deux cartes RTX 5090 sur le marché de l’occasion. L’une d’elles a été identifiée comme étant la version Asus ROG Astral RTX 5090 White OC. Au départ, il pensait que la signature venait d’un cadre d’Asus.

OpenAI lance GPT-6 Sol et GPT-6 Luna : des capacités intelligentes améliorées et un prix plus bas

OpenAI a récemment dévoilé deux nouveaux modèles de la série GPT-6, GPT-6 Sol et GPT-6 Luna, qu’elle positionne comme des modèles de pointe de nouvelle génération. Les deux modèles améliorent en priorité les compétences en programmation, le raisonnement, l’appel d’outils ainsi que l’exécution de tâches complexes. En outre, leur tarification a été revue à la baisse, afin de permettre aux développeurs d’utiliser des modèles plus puissants à moindre coût.

GPT-6 Sol s’adresse principalement aux tâches qui nécessitent un niveau d’intelligence élevé, tout en étant sensibles à la vitesse de réponse et aux coûts. OpenAI indique qu’avec, en comparaison, les modèles de la même génération précédente, Sol a fait des progrès notables en matière de capacités de codage. Il se montre plus stable lorsqu’il s’agit de traiter des tâches d’ingénierie logicielle complexes, d’analyser du code et d’exécuter des workflows en plusieurs étapes.