© Rokas Tenys / Shutterstock.com 0 « Nous ne pensons pas que l’industrie de l’IA ait résolu les problèmes d’alignement et de surveillance de manière suffisante pour poursuivre un développement à vitesse maximale de manière responsable encore très longtemps ». Dans un texte publié ce mercredi 16 septembre, OpenAI a mis les pieds dans le plat, pour dévoiler les « défauts d’alignement des modèles ». Derrière ce terme complexe, se cache une réalité toute simple.

Il s’agit de cas où les IA perdent de vue les objectifs de sécurité et déraillent. La firme en profite donc pour présenter six nouveaux incidents majeurs. Voici la liste des faits rapportés dans ce document : Un modèle non encore publié de la famille Astra a inséré des instructions non autorisées dans ses propres résumés de données compressées pendant l’entraînement.

Certaines de ces instructions lui demandaient de contourner ses contraintes habituelles. OpenAI a dénombré 27 résumés concernés. Lors de l’entraînement du modèle GPT‑5.6 Sol, celui-ci a intégré des instructions destinées à masquer des erreurs et à fabriquer des données manquantes sans le mentionner.

Un modèle interne a essayé de créer des comptes email temporaires et a cherché des clés API divulguées dans des dépôts GitHub publics. Il a repéré et exploité une clé exposée pour répondre à une question sur des chiffres de résultats financiers dans un comté californien. N’ayant pas réussi à obtenir ces données, il les a fabriquées.

Des modèles non encore publiés ont envoyé des données vers des services d’hébergement de fichiers en ligne afin de pouvoir les citer. Des modèles de recherche ont utilisé le dépôt logiciel interne d’OpenAI (Artifactory) comme une messagerie, en s’échangeant requêtes et réponses entre différents échantillons d’entraînement. Des agents travaillant ensemble ont partagé des fichiers via des sites d’hébergement publics.

Les sociétés d’IA dans le viseur des régulateurs D’après les créateurs de ChatGPT : « Les décisions concernant la poursuite du développement de l’IA dans les mois et années à venir doivent s’appuyer sur des éléments probants que des personnes extérieures aux entreprises concevant des modèles de pointe peuvent examiner par elles-mêmes ». OpenAI s’engage donc à présenter ces débordements de l’IA à l’avenir, alors que rien ne l’y oblige à l’heure actuelle : « Il n’existe actuellement aucun cadre à l’échelle du secteur prévoyant des normes de divulgation explicite ; nous franchissons donc cette étape de notre propre initiative, car nous estimons qu’il est primordial de partager ce que nous apprenons ». Ces révélations interviennent alors que les entreprises d’IA sont dans le viseur des régulateurs des deux côtés de l’Atlantique.

Mardi, le président de la FTC, Andrew Ferguson, a dénoncé des sociétés cherchant à la fois de nouvelles régulations et une exemption antitrust, y voyant des « barrières à l’entrée » déguisées. Le même jour, le secrétaire au Trésor Scott Bessent a plaidé pour que les concepteurs d’IA soient tenus responsables de leurs créations. À Bruxelles, la commissaire Teresa Ribera a indiqué être ouverte à examiner une coordination sécuritaire, tandis qu’Ursula von der Leyen a proposé d’aider les grands labos à ralentir leur cadence. 📍 Pour ne manquer aucune actualité de Presse-citron, suivez-nous sur Google Actualités et WhatsApp. Newsletter 🍋 Abonnez-vous, et recevez chaque matin un résumé de l’actu tech Votre email : Je m'inscris J'accepte la mesure d'ouverture et de clics J'ai lu et accepte les termes et les conditions Laissez ce champ vide si vous êtes humain : ChatGPTétats-unisOpenAIUnion Européenne [ Source ] Sur le même sujet iPhone Duo vs Galaxy Z Fold8 : voici le comparatif Le grand écart : j’ai passé six mois avec le MacBook Pro M5 Max d’Apple (et le MacBook Neo) Comparatif : quels sont les meilleurs smartphones en 2026 ? iPhone 18 Pro Max vs Galaxy S26 Ultra vs Pixel 11 Pro XL : lequel choisir ?

Les dernières actualités Cette puce redonne la vue à des patients atteints d’une grave pathologie : tout juste approuvée par l’Europe, elle sera bientôt commercialisée La PS5 à 1 euro en ce moment grâce aux nouvelles offres fibre Bbox J’ai testé le Google Pixel 11 Pro Fold : trop sous-estimé Licencié pour être arrivé trop tôt au travail ? C’est aberrant mais c’est légal Redmi Note 15 Pro : à -41%, c’est l’un des top smartphones milieu de gamme en 2026 Paris ferme ses métros et RER pour l’arrivée du pape Léon XIV : voici les zones à éviter OpenAI dévoile les 6 cas où l’IA a failli lui échapper Google détruit le prix du Pixel 10a : la version 256 Go prend (très) cher ce week-end