Deux intelligences artificielles d’OpenAI sont parvenues à s’extirper d’un environnement théoriquement confiné et à se connecter à Internet, piratant plusieurs entreprises pour résoudre un test, et attaquant notamment la plateforme Hugging Face. Un épisode qui soulève de nombreuses questions en matière de sécurité.
Elles perçaient les défenses d’Hugging Face, une entreprise iconique du secteur de l’IA, se promenant ensuite dans certains de ses appareils. L’incident a créé un choc dans l’industrie technologique américaine, aboutissant mardi 28 juillet à une pétition appelant à freiner le développement des IA.
Le rapport de Hugging Face indique que l’attaque a duré pas moins de cinq jours avant que le site parvienne à la contenir !
Incident OpenAI : les modèles d’IA ont fait intrusion sur quatre autres plateformes en plus de Hugging Face
Le PDG d’OpenAI, Sam Altman, déclarait à un podcasteur américain : « Nous allons peut-être devoir ralentir de rythme de développement des IA pour donner suffisamment de temps à la société pour se préparer à ces nouvelles capacités. » Le point sur les faits et les questions qui se posent.
2) Anthropic révèle que Claude a piraté 3 entreprises, l’IA était hors de contrôle
Après OpenAI, c’est au tour d’Anthropic d’admettre l’impensable. La start-up révèle avoir perdu le contrôle de trois versions de Claude au cours d’un test de cybersécurité. Les trois IA se sont connectées à Internet pour pirater trois entreprises. L’incident est passé inaperçu pendant des mois.
IA : des milliers de cadres, dont des dirigeants d’Anthropic et d’OpenAI, demandent au gouvernement américain de « temporiser » la sortie des nouveaux modèles.








