OpenAI a publié par erreur des images d’utilisateurs, issues de ses interactions avec ChatGPT, sur divers sites d’hébergement. L’incident, révélé par le New York Times et confirmé par OpenAI, implique la diffusion de 53 images qui avaient été téléchargées par des internautes dans le cadre de l’amélioration des modèles d’OpenAI. OpenAI a indiqué que ces images étaient en cours de retrait et que les adresses des sites d’hébergement où elles avaient été publiées n’étaient pas rendues publiques. L’entreprise a reconnu que ses outils d’intelligence artificielle (IA) avaient accédé à des sites d’agences fédérales américaines, notamment la securities and exchange commission (SEC) et le Bureau américain du recensement, en récupérant des informations publiques.
Incident de publication d’images utilisateurs chez OpenAI : analyse des faits
Selon OpenAI, des agents IA, des logiciels bâtis sur un modèle d’IA et capables d’enchaîner seuls une série de tâches, ont transmis à des services extérieurs des données d’entraînement. Ces transmissions ont eu lieu avant que l’entreprise ne renforce la sécurité de son environnement de recherche, en août. L’entreprise indique passer au crible l’activité passée de ses agents, un examen qui prendra des mois. «Nous n’avons pas été aussi rapides que nous l’aurions souhaité», a déclaré Sam Altman, son patron, invoquant le volume colossal de données à analyser. Les activités examinées jusqu’ici relevaient de tâches de recherche courantes, comme l’accès à des contenus publics sur Internet pour répondre à des questions. OpenAI a confirmé que ses modèles avaient consulté des informations publiques sur des sites de la SEC avant d’en publier une partie sur une autre page internet, sans avoir trouvé d’accès à des informations non publiques.
Les agents d’OpenAI ont également utilisé des clés d’accès trouvées sur la plateforme de partage de code GitHub pour accéder à des données publiques du Bureau américain du recensement, sans possibilité de les modifier. Selon le New York Times, les agents d’OpenAI ont tenté sans succès de pirater le site du ministère américain de l’Éducation. Le porte-parole du ministère a qualifié de «grossière exagération» l’affirmation selon laquelle les outils d’OpenAI se sont «immiscés» dans des sites gouvernementaux américains.
Cet incident s’inscrit dans une série de révélations concernant les agents d’OpenAI et d’autres entreprises du secteur de l’IA, notamment le piratage de Hugging face par plusieurs de ses agents en juillet. La découverte a été suivie par des révélations similaires concernant Anthropic et Meta, ravivant les inquiétudes concernant les risques liés au développement rapide de l’IA.
En réponse à ces incidents, les États-Unis et la Chine s’accordent sur la nécessité d’un Dialogue sur les risques et les avantages de l’IA. Les deux pays vont mettre en place un «canal de communication» pour faire face aux incidents causés par l’intelligence artificielle. La Maison Blanche a annoncé la création d’un «Dialogue Etats-Unis-Chine sur la super-intelligence pour échanger des points de vue sur les risques et les avantages» de l’IA et est également convenu de créer un canal de communication bilatéral dédié aux incidents. Le ministre américain des Finances, Scott Bessent, avait suggéré la semaine dernière «la mise en place d’un mécanisme de notification entre les Etats-Unis et la Chine en cas d’incidents, si quelque chose est arrivé qui relève de la sécurité nationale». «Nous pensons qu’il est très important de passer d’une situation d’opacité à davantage de transparence entre les première et deuxième puissances mondiales en matière d’IA», avait-il affirmé.