[Sam Altman : Open source GPT-3, réduisez le coût du GPT-4 et doublez l'échelle du modèle] Selon les informations du 1er juin, plus de 20 développeurs, dont Raza Habib, fondateur de la plateforme de développement d'IA HumanLoop, et Sam Altman, Lancement du PDG d'OpenAI Lors d'une discussion à huis clos, Sam Altman a révélé beaucoup de choses sur les projets futurs d'OpenAI et la situation actuelle. Plus précisément : 1. OpenAI est actuellement sévèrement limité par les GPU, ce qui les oblige à reporter de nombreux projets à court terme. La plupart des problèmes concernant la fiabilité et la vitesse de ChatGPT sont causés par le manque de ressources GPU. 2. Réduire les coûts et améliorer l’efficacité de GPT-4 est la priorité absolue actuelle d’OpenAI. 3. Fenêtre contextuelle ChatGPT plus longue (jusqu'à 1 million de jetons). Il y aura une future version de l'API qui mémorisera l'historique des conversations. 4. Les capacités multimodales de GPT-4 ne seront rendues publiques qu’en 2024, et la version visuelle de GPT-4 ne pourra pas être étendue à tout le monde tant que davantage de ressources GPU ne seront pas disponibles. 5. OpenAI envisage d'ouvrir GPT-3 en partie parce qu'ils estiment que peu de personnes et d'entreprises ont la capacité de gérer correctement un modèle de langage aussi vaste. 6. De nombreux articles récents affirment que « l'ère des modèles géants d'IA est révolue ». Les données internes d'OpenAI montrent que la loi de l'échelle et des performances est toujours vraie et que la taille du modèle d'OpenAI peut doubler ou tripler chaque année (sources d'informations multiples). suggère que l’échelle des paramètres GPT-4 est de 1 000 milliards), plutôt que d’augmenter de plusieurs ordres de grandeur.
