Le fait principal
Anthropic, une entreprise d’intelligence artificielle fondée par d’anciens d’OpenAI, se retrouve à un croisement délicat entre sa mission de sécurité et les exigences de croissance du marché. Alors que la sécurité de l’IA est au cœur de son projet, les pressions financières et commerciales commencent à peser sur ses choix stratégiques.
Ce qui s’est passé
En avril 2023, Jaan Tallinn, cofondateur de Skype et investisseur dans Anthropic, exprime sa déception face à l’absence de soutien de l’entreprise à un appel à suspendre l’entraînement des systèmes d’IA les plus puissants. Tallinn, qui espérait influencer la prudence de l’entreprise, déclare que son « Plan A a échoué ». En réponse, Anthropic maintient qu’elle ne signe pas de pétitions par principe, tout en affirmant être plus attentive à la sécurité que d’autres laboratoires. Cette tension entre prudence et croissance est au cœur des choix de l’entreprise.
Le contexte
Anthropic a été fondée en 2021 par Dario et Daniela Amodei, qui ont quitté OpenAI pour créer une organisation axée sur la sécurité de l’IA. Leur parcours est marqué par des préoccupations éthiques, mais la nécessité de lever des fonds et de répondre à la concurrence les pousse à des choix contradictoires. En mai 2021, l’entreprise a levé 124 millions de dollars, attirant des investisseurs comme Dustin Moskovitz, cofondateur de Facebook, et Tallinn. L’altruisme efficace, qui guide en partie leurs décisions, soulève des questions sur l’utilisation des ressources et les priorités de l’IA.
Les chiffres à retenir
– 124 millions de dollars : montant levé lors du premier tour de financement en mai 2021.- 100 milliards de dollars : engagement d’Anthropic à dépenser sur dix ans pour des technologies AWS.
Ce que cela révèle
La situation d’Anthropic met en lumière une contradiction frappante : comment concilier mission de sécurité et besoins économiques ? En cherchant à développer des modèles d’IA avancés tout en affirmant vouloir les réguler, l’entreprise risque de perdre de vue ses principes fondateurs. Les tensions internes et les critiques externes, comme celles de Yann LeCun qui qualifie l’altruisme efficace de « secte religieuse », soulignent l’angoisse croissante autour du pouvoir des entreprises technologiques sur des technologies potentiellement dangereuses.
Ce qu’il faut retenir
Anthropic navigue dans des eaux troubles, tiraillée entre ses idéaux de sécurité et les réalités impitoyables du marché. Alors que la pression pour innover augmente, la question demeure : jusqu’où ira-t-elle pour préserver sa mission sans compromettre ses valeurs ? Une chose est certaine, le débat sur l’éthique de l’IA est loin d’être clos.
Source principale : ActuIA
