OpenAI pourrait être l’une des entreprises les plus audacieuses du marché informatique de ces dernières années. Tandis que les grandes entreprises publient de vagues communiqués de presse et clôturent leurs produits quelques jours après leur lancement, ChatGPT bat des records de croissance et son PDG, Sam Altman, écrit des articles sur la façon dont il envisage de conduire l'humanité vers un avenir meilleur. Mais êtes-vous sûr de vouloir faire partie de l’avenir d’Altman ?

foxbusiness.com

Initialement, l’entreprise se positionne comme une organisation à but non lucratif. Comme le dit le manifeste d’OpenAI de 2015 : « Lorsque cela se produira, il sera important d’avoir une institution de recherche de premier plan qui puisse donner la priorité à un bon résultat pour tous plutôt qu’à son propre intérêt. Nous espérons faire d’OpenAI une telle institution. L’entreprise a promis de veiller à ce que l’IA soit utilisée uniquement à des fins bénéfiques, affirmant qu’elle ne courrait pas après les profits de nos actionnaires.

En mars 2019, l'association OpenAI a créé une filiale : la société commerciale OpenAI LP. Afin de rémunérer les options des employés et le matériel, et de manière générale de poursuivre ses recherches, elle a créé une structure distincte qui vendrait les développements. Mais pour ne pas être impudent, il a déclaré que les bénéfices seraient limités : les investisseurs pourraient gagner un montant fixe, et tout le surplus irait à la société mère OpenAI, qui pourrait l'utiliser pour de nouveaux progrès en matière d'IA et atteindre son objectif. un avenir légendaire et meilleur.

Après quatre mois, Microsoft a investi dans OpenAI LP. Bien qu’il fournisse de la puissance de calcul à OpenAI, il bénéficie en retour d’un accès exclusif aux algorithmes d’OpenAI. Peu à peu, l’entreprise a trouvé davantage d’investisseurs et collecté de plus en plus d’argent. Le moteur de recherche de Microsoft, Bing, était l'une des intégrations les plus récentes, mais des modèles de type GPT encore plus anciens ont été introduits dans Github Copilot et Notion.

Elon Musk a commenté qu'AI Open n'est plus une entreprise à but non lucratif car Altman vend la technologie qu'elle crée. Cependant, Altman a son propre plan, qu’il a partiellement révélé dans un article récent publié sur le blog d’OpenAI.

De nombreuses personnes l'ont déjà analysé. Nous souhaitons également jeter un œil à cet article et nous concentrer sur quelques points abordés par Altman :

Altman croit sincèrement que l’IA devrait être accessible au plus grand nombre et le plus tôt possible. Il est encore impossible de tout réfléchir à l’avance ; il estime qu'il faut régler les problèmes le plus tôt possible, ce qui explique l'augmentation du nombre d'intégrations et le passage d'une structure non commerciale à une structure semi-commerciale ;

Dans le même temps, Altman souhaite que les systèmes comme ChatGPT soient audités de manière indépendante avant leur publication. Il promet de révéler l'idée de l'audit plus tard cette année, mais pour l'instant, il note qu'il considère qu'il est important que les principaux gouvernements du monde aient une idée sur la formation au-delà d'une certaine échelle.

Altman n'exclut pas non plus que pour avancer vers un avenir radieux, il sera nécessaire de limiter le rythme de création de nouveaux modèles ou de créer un comité qui décidera si le prochain modèle d'IA est sûr et s'il peut être publié. marché ou pas.

Apparemment, un nouveau régulateur est en train de naître sous nos yeux. Une organisation semblable à la Commission des valeurs mobilières ou une organisation syndicale. Ses contours sont encore flous, mais une chose est sûre : le patron d'OpenAI envisage de prendre une place importante dans cette structure. Et si l’on se souvient également de ses investissements dans des sociétés comme UBI Charitable et Wordcoin, tout devient encore plus intéressant.

• L'autorité italienne de protection des données a immédiatement interdit ChatGPT, l'accusant de violation de la vie privée. D’autres pays européens envisagent de mettre en œuvre des restrictions similaires, suscitant des débats sur le rôle des chatbots IA dans la société et leur impact sur la vie privée, la sécurité des données et la sécurité des utilisateurs. L’Union européenne élabore actuellement une loi sur l’intelligence artificielle, qui vise à trouver un équilibre entre la protection des individus contre les impacts négatifs et la promotion de l’innovation et de la compétitivité dans l’économie numérique de l’UE. L'Allemagne pourrait également envisager de bloquer ChatGPT en raison de problèmes de sécurité des données. Les municipalités françaises ont lancé des enquêtes indépendantes pour évaluer les impacts et les implications de l'utilisation de ChatGPT. Le régulateur britannique autonome des données est prêt à prendre des mesures contre les violations des lois sur la protection des données.

• OpenAI propose des solutions pour résoudre les problèmes qui ont conduit à l'interdiction du chatbot en Italie. Garante a cité l'incapacité d'OpenAI à vérifier l'âge des utilisateurs de ChatGPT et le manque de justification légale pour la collecte et le stockage de données personnelles comme raisons de l'interdiction. OpenAI s'est engagé à présenter un document décrivant les mesures proposées à l'AS italienne d'ici le 6 avril. D'autres organismes de surveillance de la vie privée en Europe étudient si des mesures plus sévères sont nécessaires à l'encontre des chatbots.

• Selon Sam Altman, la quantité d'intelligence dans l'univers doublera tous les 18 mois. Le livre « Comment gérer l’apocalypse de l’IA en tant qu’humain sain d’esprit » d’Eric Hoel offre un aperçu complet de la situation actuelle et du futur proche de l’apocalypse. La principale défense des « techno-optimistes rationnels » est que ces systèmes d’IA ne peuvent pas être considérés comme intelligents car ils manquent de la motivation d’un agent et d’une vision du monde. Si tel est le cas, ni les menaces ni l’apparition d’une superintelligence ne sont susceptibles de se produire dans un avenir proche.

En savoir plus sur l'IA :

• OpenAI et Microsoft annoncent la prolongation de leur partenariat

• OpenAI travaille à la création d'un modèle d'IA pour la vidéo

• Le PDG d'OpenAI déclare que le système éducatif devrait s'adapter à ChatGPT, et non l'interdire

Le message Sam Altman déclare que la réglementation de l'IA sera nécessaire pour nous aider à assurer notre sécurité apparaît en premier sur Metaverse Post.