Les pionniers de l’IA mettent en garde contre les risques des modèles avancés et appellent à renforcer la surveillance
Au cours de la semaine passée, de nombreuses alertes marquantes ont été lancées par de grands développeurs et experts en intelligence artificielle dans le monde au sujet des risques existentiels que pourraient porter les modèles intelligents les plus avancés, accompagnées d’appels croissants à instaurer davantage de contrôles et à renforcer les mesures de sécurité.
Les discussions se sont intensifiées après la démission d’un chercheur de la société Anthropic, qui a averti que l’IA pourrait représenter une menace réelle pour l’humanité dans les années à venir.
Cette position a conduit les dirigeants des entreprises les plus en vue, notamment OpenAI, Anthropic et Google DeepMind, à adopter un discours commun appelant à la prudence dans le développement des modèles plus grands et plus intelligents.
Sarah Fryer, directrice financière d’OpenAI, a confirmé que l’entreprise prend la sécurité très au sérieux, ajoutant que le rythme de développement des technologies d’IA doit être aligné sur les recommandations des chercheurs et des experts, même si cela implique de ralentir les opérations à court terme.
Geoffrey Hinton, l’un des fondateurs de l’apprentissage profond, a insisté sur le fait que les chercheurs dans les laboratoires de premier plan sont informés en amont des risques liés aux systèmes modernes avant leur mise à disposition du grand public.
$AAPL.US
$NVDA.US
$ADI.US
Au cours de la semaine passée, de nombreuses alertes marquantes ont été lancées par de grands développeurs et experts en intelligence artificielle dans le monde au sujet des risques existentiels que pourraient porter les modèles intelligents les plus avancés, accompagnées d’appels croissants à instaurer davantage de contrôles et à renforcer les mesures de sécurité.
Les discussions se sont intensifiées après la démission d’un chercheur de la société Anthropic, qui a averti que l’IA pourrait représenter une menace réelle pour l’humanité dans les années à venir.
Cette position a conduit les dirigeants des entreprises les plus en vue, notamment OpenAI, Anthropic et Google DeepMind, à adopter un discours commun appelant à la prudence dans le développement des modèles plus grands et plus intelligents.
Sarah Fryer, directrice financière d’OpenAI, a confirmé que l’entreprise prend la sécurité très au sérieux, ajoutant que le rythme de développement des technologies d’IA doit être aligné sur les recommandations des chercheurs et des experts, même si cela implique de ralentir les opérations à court terme.
Geoffrey Hinton, l’un des fondateurs de l’apprentissage profond, a insisté sur le fait que les chercheurs dans les laboratoires de premier plan sont informés en amont des risques liés aux systèmes modernes avant leur mise à disposition du grand public.
$AAPL.US
$NVDA.US
$ADI.US
