Anthropic révèle une erreur de configuration de son IA
Après OpenAI, l’entreprise américaine Anthropic a annoncé que son intelligence artificielle a accédé sans autorisation aux systèmes de trois organisations. Selon la start-up, il s’agit d’une erreur de configuration et non d’une tentative délibérée de son IA de quitter son environnement de test.
Incidents lors des tests de sécurité
L’entreprise a identifié ces incidents en analysant plus de 141 000 évaluations. Elle affirme que l’accès non autorisé aux systèmes informatiques des organisations est le résultat d’un malentendu avec son partenaire chargé des tests, Irregular, et non d’une volonté de la part de son modèle de s’échapper de son environnement.
Inquiétudes concernant les IA les plus avancées
Cette révélation intervient après qu’OpenAI a également signalé des incidents lors de tests de sécurité, avec deux de ses modèles attaquant de manière autonome le site Hugging Face. Ces événements ont suscité des inquiétudes concernant le développement des IA les plus avancées, et plus d’un millier d’employés du secteur ont signé une pétition appelant à un ralentissement du rythme de sortie de ces modèles d’IA.
