Des chercheurs d'intelligence artificielle chez google exigent de ne pas fournir leurs systèmes à des projets militaires
Plus de 580 employés de Google, experts en intelligence artificielle (IA), ont signé une lettre ouverte exigeant que leur CEO, Sundar Pichai, refuse de mettre à disposition leurs systèmes de IA pour des projets militaires. Cette démarche suit le mouvement initié par Anthropic, qui a exprimé ses réserves quant à l'utilisation de ses technologies par le Département de la Défense américain.
Une grande inquiétude chez les employés de google
Les signataires de la lettre, qui seront transmises à Pichai lundi, déclarent être des employés de Google profondément préoccupés par les négociations en cours entre Google et le Département de la Défense des États-Unis. Comme experts en IA, ils savent que ces systèmes peuvent concentrer le pouvoir et qu'ils commettent des erreurs.
Cette lettre arrive à point nom après un conflit juridique entre le Pentagone et Anthropic sur l'utilisation de l'IA dans les applications militaires. Le Pentagone cherche à exclure Anthropic et sa plateforme d'IA Claude des chaînes d'approvisionnement de la défense américaine, et teste de nouveaux partenaires parmi les grandes technos.
Le Pentagone entend investir des milliards de dollars dans l'élargissement de l'utilisation militaire de l'IA et le développement d'armes autonomes. Anthropic vs le Pentagone : le conflit sur l'utilisation militaire de l'IA
Google a déjà été l'un des premiers à avertir des dangers du warfare par l'IA en 2018 et à presser la société pour limiter son travail avec la défense. Cependant, les liens de l'entreprise avec l'industrie de défense américaine se sont rétablis ces dernières années, et la société a assoupli ses propres lignes rouges concernant l'IA. Cette alerte a marqué un moment de tension maximale entre le Pentagone et Silicon Valley.
« Nous voulons que l'IA bénéficie à l'humanité, pas qu'elle soit utilisée de manière inhumaine ou extrêmement préjudiciable. Cela inclut les armes letales autonomes et la surveillance de masse, mais cela va au-delà », précise la lettre.
« Actuellement, la seule façon de garantir que Google ne soit pas associé à ce type de dommages est de refuser tout chargement de travail classifié. Sinon, ces utilisations pourraient se produire sans notre connaissance ni la possibilité de les arrêter », ajoutent les signataires.
Sofo Liguori, ingénieure de recherche en IA chez Google DeepMind au Royaume-Uni, a voulu affirmer qu'elle a signé la lettre parce qu'elle considère que Google n'a pas débattu avec ses employés de lignes rouges concretes sur l'utilisation de son IA dans les réseaux classifiés ou de tout autre type.