Documents révèlent des failles dans la sécurité d’OpenAI suite à un vol majeur.
Un vol d’une ampleur sans précédent : les documents qui fragilisent OpenAI
Le New York Times a engagé une action en justice contre OpenAI, accusant l’entreprise d’intelligence artificielle d’avoir utilisé des millions d’articles sans autorisation pour entraîner ses modèles GPT. Cette plainte, déposée en décembre 2023, a été renforcée par le soutien de l’administration Trump, qui a soutenu que l’entraînement de l’IA sur des contenus protégés par le droit d’auteur relevait du « fair use » (usage équitable), un argument souvent avancé par les entreprises d’IA pour justifier leurs pratiques.
Le mémoire de synthèse, déposé devant le tribunal fédéral de New York par le New York Times et d’autres éditeurs de presse tels que le Chicago Tribune et Mother Jones, détaille les éléments recueillis lors de la collecte de preuves. Celui-ci comprend des témoignages sous serment et des documents produits par OpenAI et Microsoft, révélant la perception interne de l’exploitation des contenus de presse.
Le témoignage de Brent Hecht, un responsable chez OpenAI, est particulièrement compromettant. Il a déclaré que « des millions de personnes dans le monde considéreront bientôt que les grands modèles qui « aspirent » tout leur travail constituent un vol d’une ampleur sans précédent ». Il a également reconnu que « presque personne n’avait prévu que les contenus créés seraient utilisés de cette manière, sans que leurs auteurs soient rémunérés ».
Le directeur scientifique de Microsoft a critiqué l’argument d’OpenAI concernant le « fair use », le qualifiant de vide de sens. Un échange entre Nick Ryder, responsable de recherche chez OpenAI, et Greg Brockman, cofondateur de l’entreprise, a également été cité, où Ryder mentionne un « moyen pour contourner le paywall du New York Times », à quoi Brockman a simplement répondu : « ah, très bien ».
Les éditeurs de presse se disent confrontés à une « menace existentielle », comme l’a reconnu Nick Turley, responsable de ChatGPT chez OpenAI. Selon des documents internes de Microsoft, le taux de clic depuis Bing Chat ou Copilot vers les sites des éditeurs est significativement plus bas que celui observé via la recherche Bing classique, avec une baisse allant de 87 à 93 % pour le New York Times et de 83 à 91 % pour d’autres plaignants. Cela représente une diminution des revenus pour les sites de presse, qui se retrouvent en concurrence avec leurs propres contenus générés par des bots.
Dans son témoignage sous serment, Satya Nadella, directeur général de Microsoft, a affirmé que « tout contenu placé derrière un paywall devrait faire l’objet d’une licence de la part de quiconque souhaite l’utiliser ». Il a ajouté que s’il avait su qu’OpenAI avait moissonné des contenus protégés, il aurait exigé le réentraînement des modèles sans ces données.
Ce mémoire de synthèse, bien que préoccupant, ne constitue pas une décision de justice finale. Néanmoins, il éclaire l’état d’esprit d’OpenAI et de Microsoft quant à leur interprétation du « fair use ».
Source : New York Times
