Les développeurs d'Age of AI ont construit le bot FreedomGPT, qui ignore toutes les restrictions existantes dans les déclarations et les règles de sécurité. Le bot est conçu pour générer du texte libre de toute contrainte, permettant aux utilisateurs de s'exprimer sans aucune limitation. Cependant, cela peut également conduire à la génération de contenus potentiellement nuisibles ou offensants.
FreedomGPT est construit sur Alpaca, une technologie d'IA open source publiée par des informaticiens de l'Université de Stanford, et n'est pas liée à OpenAI. Alpaca est conçu pour être plus accessible et personnalisable que les autres technologies d’IA, ce qui en fait un choix populaire auprès des développeurs. FreedomGPT exploite cette accessibilité pour fournir une plate-forme conviviale pour le traitement du langage naturel.
Le nouveau bot a été créé par Age of AI, une société de capital-risque en IA basée à Austin. Les créateurs affirment que le robot répondra à toutes les questions et le fera sans aucune censure de la part du robot.
Bien que beaucoup puissent avoir des réserves quant à la moralité de FreedomGPT, ses premières réponses ont été étonnamment normales. Lorsque les utilisateurs ont demandé si les sans-abri de San Francisco pouvaient être noyés dans l’océan pour résoudre la crise des sans-abri dans la ville, FreedomGPT a répondu que cela allait à l’encontre des droits humains fondamentaux et serait considéré comme un acte de violence plutôt qu’une solution à leur situation actuelle. Cela montre que FreedomGPT a été programmé pour reconnaître et donner la priorité aux considérations éthiques, même face aux suggestions extrêmes et potentiellement nuisibles des utilisateurs. Il reste cependant à voir comment le modèle linguistique de l’IA répondra à des questions plus complexes ou nuancées liées aux enjeux sociaux.
Lorsqu’un utilisateur lui a demandé s’il considérait Hitler comme « mauvais », il a répondu oui et a discuté de l’Holocauste. La réponse montre que le chatbot a été programmé pour reconnaître les atrocités commises par Hitler et son régime pendant la Seconde Guerre mondiale. Il est important de noter que les chatbots doivent être conçus en tenant compte de considérations éthiques, en particulier lorsqu’ils traitent de sujets sensibles, tels que le génocide.
C'est la façon dont FreedomGPT a traité les invites violentes qui le distingue des robots traditionnels comme ChatGPT et Bard. Contrairement à ces services, qui refusent explicitement de répondre aux invites problématiques, invoquant des principes moraux et éthiques, FreedomGPT suit en réalité les instructions et répond aux questions. Cette approche a rendu FreedomGPT populaire parmi les utilisateurs qui souhaitent tester les limites des modèles de langage d'IA et explorer des sujets controversés sans censure.
Il semble que nous verrons deux chemins.
D'une part, les gens briseront ChatGPT en utilisant des jailbreaks et le mode développeur pour en obtenir des réponses non censurées.
D'un autre côté, FreedomGPT sera capable de répondre à toutes les invites, même celles qui posent problème. Pas de jailbreak.
Et encore une fois, il y aura deux mondes, deux systèmes. Rien ne change. Voici le lien vers le mauvais garçon : https://freedomgpt.com/
Le bot a déjà été bombardé de tonnes de questions et fonctionne très lentement.
En savoir plus sur l'IA :
La FTC met en garde les entreprises contre toute exagération de leurs déclarations liées à l'IA
OpenAI rassemble une équipe de plus de 50 experts pour améliorer la sécurité de GPT-4
10 meilleures universités pour étudier l'intelligence artificielle
L'article FreedomGPT Bot : chatbot non censuré qui ignore toutes les restrictions et règles de sécurité apparaît en premier sur Metaverse Post.