Google abandonne son engagement à ne pas utiliser l’IA pour développer des armes et des technologies de surveillance

Google abandonne son engagement à ne pas utiliser l’IA pour développer des armes et des technologies de surveillance

Le géant de la technologie, Google, a supprimé un engagement crucial de ses principes d’intelligence artificielle (IA) responsable, qui consistait à ne pas utiliser l’IA pour développer des armes ou des technologies de surveillance susceptibles de causer un préjudice global. Cette décision intervient quelques semaines après le début du second mandat du président américain Donald Trump.

L’entreprise avait initialement promis de respecter ces principes en 2018, après que des milliers d’employés eurent exigé que Google mette fin à sa collaboration avec le Pentagone sur une technologie de drone potentielle. Cependant, les responsables de l’entreprise ont maintenant indiqué qu’ils ne peuvent plus promettre de s’abstenir de développer des armes utilisant l’IA.

James Manyika, vice-président senior pour la recherche, la technologie et la société, et Demis Hassabis, PDG du laboratoire de recherche en IA DeepMind, ont déclaré que les démocraties devraient mener le développement de l’IA, guidées par des valeurs fondamentales telles que la liberté, l’égalité et le respect des droits humains.

La suppression de cet engagement a suscité des inquiétudes chez les employés de Google et les défenseurs des droits humains. Margaret Mitchell, qui codirigeait auparavant l’équipe de Google chargée de l’IA éthique, a déclaré que la suppression des principes « efface le travail que tant de personnes de l’espace de l’IA éthique et de l’espace militant ont accompli chez Google » et que cela signifie que Google travaillera probablement désormais à déployer directement une technologie qui peut tuer des gens.

La décision de Google a également été critiquée par les défenseurs des droits humains, qui estiment que l’entreprise est en train de devenir une « machine de guerre industrielle ». La défenseuse des droits humains Sarah Leah Whitson a déclaré que Google s’est aligné sur l’administration Trump et que cela est très préoccupant.

Les employés de Google ont toujours le sentiment que l’entreprise ne devrait pas s’occuper de la guerre, selon Parul Koul, ingénieur logiciel chez Google. La décision de l’entreprise de renoncer à son engagement en faveur de l’utilisation éthique de la technologie de l’IA sans consulter les employés ou le grand public est considérée comme très préoccupante.

Cette décision intervient dans un contexte où les entreprises technologiques ont pris leurs distances par rapport à leurs engagements antérieurs en faveur de la diversité, de l’équité et de l’inclusion dans leurs pratiques d’embauche et sur le lieu de travail. Les critères de Maastricht ne doivent plus être respectés pour financer la « défense » européenne, ce qui a suscité des inquiétudes quant à l’avenir de l’Union européenne.

En résumé, Google a abandonné son engagement à ne pas utiliser l’IA pour développer des armes et des technologies de surveillance, ce qui a suscité des inquiétudes chez les employés et les défenseurs des droits humains. Cette décision intervient dans un contexte où les entreprises technologiques ont pris leurs distances par rapport à leurs engagements antérieurs en faveur de la diversité, de l’équité et de l’inclusion.