[ Cliquez sur l'image pour l'agrandir ]
 |
| « MATRIX » LA CENTRALE ÉLECTRIQUE À ÉNERGIE HUMAINE © LANA ET LILLY WACHOWSKI / WARNER |
Si l’impact pernicieux des nouvelles technologies sur la politique, la démocratie et nos fonctions cognitives fait aujourd’hui scandale, c’est principalement à cause du rapport très ambigu, voire schizophrène, qu’elles entretiennent avec leurs utilisateurs.
par Evgeny Morozov
Cette relation est mue à la fois par la compassion et l’indifférence, deux logiques adverses qui jouaient autrefois un rôle nécessaire, permettant aux entreprises technologiques d’invoquer leurs bonnes intentions quand on les accusait de malveillance. La coexistence de ces deux principes contradictoires semble de moins en moins tenable, révélant enfin l’incohérence de leur vision d’ensemble.
Leur compassion affichée n’est pas tout à fait fausse. Les géants des technologies, aussi puissants soient-ils, dépendent beaucoup de la publicité et des ventes, c’est-à-dire de notre capacité à consommer. Leurs intérêts sont donc, dans une certaine mesure, indexés sur ceux de leurs utilisateurs. Sans ressources, ces derniers ne pourraient pas acheter les produits tant vantés. C’est pourquoi certains magnats de la technologie manifestent leur soutien au revenu de base universel et s’essaient à la résolution des problèmes croissants de protection sociale en matière d’éducation ou de santé (lire, sur ce blog, « L’utopie du revenu garanti récupérée par la Silicon Valley et « La Sécu selon Uber »).
La méthode n’est pas sans rappeler celle d’Henry Ford, qui versait à ses ouvriers de plus gros salaires pour qu’ils puissent acheter les voitures de sa marque. On pourrait établir une comparaison moins flatteuse encore avec les propriétaires d’esclaves, qui devaient nourrir et veiller à la santé de leur main-d’œuvre, au risque de la perdre pour cause d’épuisement et de maladie.
Néanmoins, contrairement à Henry Ford ou aux propriétaires d’esclaves, les magnats de la technologie ne veulent pas financer eux-mêmes le revenu de base universel, qui apparaît de plus en plus comme leur solution favorite. Une augmentation des impôts pourrait y contribuer, pourvu qu’on ne puise pas dans leurs propres bénéfices — elles ont besoin de cet argent pour financer le tourisme dans l’espace. Qui pourrait leur en vouloir ? Tout oligarque qui se respecte a besoin d’une issue de secours.
La générosité de la Silicon Valley est surtout accidentelle : les quelques avantages que les utilisateurs sont parvenus à tirer de leurs services prétendument bon marché, voire gratuits, sont souvent temporaires, car leur modèle économique est largement financé par des sociétés de capital-risque qui comptent sur celui-ci pour éliminer la concurrence locale et conquérir le marché mondial.
Quant à la deuxième logique qui caractérise ces entreprises, celle de l’indifférence totale envers le nouvel excédent de population en ligne que forment ses utilisateurs, elle découle de la dynamique de concurrence inhérente à ce secteur. Si les grandes entreprises technologiques tendent à monopoliser une niche en particulier (comme les réseaux sociaux ou le commerce en ligne), leur concurrence se situe à un niveau supérieur : celui des services de l’information.
C’est pourquoi beaucoup d’entre elles doivent s’engager en territoire inconnu en suivant les nouvelles tendances, de l’« informatique en nuage » (de l’anglais, cloud computing) aux véhicules autonomes. Pour beaucoup, comme Amazon avec sa panoplie de services en ligne, ces nouveaux secteurs génèrent déjà une plus grande marge de profits que leur activité d’origine.
L’ingrédient mystère d’un tel succès n’est autre que l’intelligence artificielle (IA). Cette dernière s’est nourrie des données collectées auprès des utilisateurs de plateformes technologiques mises au point par la Silicon Valley à l’époque où elle s’adressait aux consommateurs. Maintenant qu’elle est développée, cette capacité d’IA peut servir des intérêts très différents, ceux du gouvernement ou du secteur privé, par exemple, privant ses anciens chouchous du bienfaiteur qui subventionnait jusqu’ici leurs vidéos de chatons.
Google vient de lancer une plateforme d’IA destinée aux entreprises qui veulent mettre en œuvre une infrastructure d’apprentissage automatique (machine learning) de afin de construire leurs propres modèles (contre rétribution, bien entendu). Il sait pertinemment qu’il est toujours rentable de s’attirer la sympathie des utilisateurs, par exemple en leur donnant des outils d’IA pour trouver des œuvres d’art qui ressemblent à leur visage (1). Ces instruments gagnent ainsi en précision et peuvent ensuite être vendus aux entreprises. Mais pour combien de temps encore Google aura-t-il besoin de cobayes ?
Les progrès de l’IA rendent la Silicon Valley indispensable. C’est une chose pour les entreprises technologiques de s’inquiéter de savoir si leurs utilisateurs peuvent se payer une paire de baskets, en les harcelant de pubs sur tous les sites Web. C’en est une autre de proposer des services que seule l’IA peut fournir et qui influent sur des aspects essentiels de notre existence.
Prenez par exemple la lutte contre les fausses nouvelles, les cyberattaques, le cancer, le gaspillage énergétique : l’IA, concentrée dans les mains d’une oligarchie, est déployée dans tous ces domaines. Le monde survivrait sans trop de mal à la disparition des fournisseurs de publicité et des sites de vente en ligne, mais aujourd’hui il ne peut pas se passer de solutions utilisant l’IA pour résoudre ses nombreuses crises.
La Silicon Valley rejoint ainsi Wall Street dans la catégorie des secteurs too big to fail (en français « trop important pour disparaître »), à ceci près que pour les politiciens centristes, son effondrement aurait aussi d’immenses conséquences idéologiques. Au demeurant, aucune force politique actuelle ne saurait comment gérer des problèmes tels que les fausses nouvelles ou les cyberattaques sans l’aide providentielle de la Silicon Valley. Nos dirigeants ne sont pas du tout prêts à adopter la solution la plus évidente, qui consisterait à rechercher les causes du problème, au lieu d’atténuer leurs effets à grands renforts d’IA.
Que penser alors de l’engagement de Mark Zuckerberg à revoir sa plateforme pour faire en sorte que « le temps passé sur Facebook ne soit pas du temps perdu » ? Des ingénieurs de la Silicon Valley ayant récemment avoué qu’ils contribuaient à renforcer l’addiction des utilisateurs, on peut en déduire l’orientation générale que prendra ce Facebook 2.0.
Employant une fois de plus la rhétorique de la compassion, il promettra d’éliminer ses contenus stupides en déployant sa puissante intelligence artificielle pour trouver des posts intéressants et épanouissants. Et, comme d’habitude, Facebook nous dira que plus il en sait sur nous, meilleures seront ses recommandations.
C’est bien là le nœud du problème : en ce bas monde, les grands groupes technologiques opèrent des services de communication hautement addictifs afin d’accumuler des données sur nous et raffiner leurs solutions d’IA dans tous les domaines, y compris pour répondre à l’addiction qu’ils ont eux-mêmes créée.
La dystopie commence véritablement quand, sous la pression de la concurrence, les derniers vestiges de la logique de compassion feront place à celle de l’indifférence : accros aux contenus stupides et perdus dans le labyrinthe infini des mèmes de provenance douteuse, nous, l’excédent de population en ligne, devrons finalement nous débrouiller seuls.
Heureusement, pour certains, les entreprises technologiques vendront des services de protection adaptés, basés sur l’IA. Les élites intellectuelles s’en sortiront en suivant des cures, l’équivalent numérique du chou kale et du quinoa, en regardant des sites d’artisanat cachés aux non-initiés. Tous les autres seront condamnés à se gaver de mèmes sans intérêt, générés par des machines d’apprentissage dans le seul but de nous convaincre d’acheter la version de luxe de notre plateforme favorite pour être enfin tranquilles. L’avantage, c’est que le capitalisme numérique fournit des solutions à ses propres problèmes, l’inconvénient, c’est qu’il le fait selon ses propres termes.
Traduction depuis l’anglais : Métissa André
• Version anglaise sur le site du Guardian
 |
| PHOTO JOHN LUND |
Leur compassion affichée n’est pas tout à fait fausse. Les géants des technologies, aussi puissants soient-ils, dépendent beaucoup de la publicité et des ventes, c’est-à-dire de notre capacité à consommer. Leurs intérêts sont donc, dans une certaine mesure, indexés sur ceux de leurs utilisateurs. Sans ressources, ces derniers ne pourraient pas acheter les produits tant vantés. C’est pourquoi certains magnats de la technologie manifestent leur soutien au revenu de base universel et s’essaient à la résolution des problèmes croissants de protection sociale en matière d’éducation ou de santé (lire, sur ce blog, « L’utopie du revenu garanti récupérée par la Silicon Valley et « La Sécu selon Uber »).
La méthode n’est pas sans rappeler celle d’Henry Ford, qui versait à ses ouvriers de plus gros salaires pour qu’ils puissent acheter les voitures de sa marque. On pourrait établir une comparaison moins flatteuse encore avec les propriétaires d’esclaves, qui devaient nourrir et veiller à la santé de leur main-d’œuvre, au risque de la perdre pour cause d’épuisement et de maladie.
Néanmoins, contrairement à Henry Ford ou aux propriétaires d’esclaves, les magnats de la technologie ne veulent pas financer eux-mêmes le revenu de base universel, qui apparaît de plus en plus comme leur solution favorite. Une augmentation des impôts pourrait y contribuer, pourvu qu’on ne puise pas dans leurs propres bénéfices — elles ont besoin de cet argent pour financer le tourisme dans l’espace. Qui pourrait leur en vouloir ? Tout oligarque qui se respecte a besoin d’une issue de secours.
La générosité de la Silicon Valley est surtout accidentelle : les quelques avantages que les utilisateurs sont parvenus à tirer de leurs services prétendument bon marché, voire gratuits, sont souvent temporaires, car leur modèle économique est largement financé par des sociétés de capital-risque qui comptent sur celui-ci pour éliminer la concurrence locale et conquérir le marché mondial.
Quant à la deuxième logique qui caractérise ces entreprises, celle de l’indifférence totale envers le nouvel excédent de population en ligne que forment ses utilisateurs, elle découle de la dynamique de concurrence inhérente à ce secteur. Si les grandes entreprises technologiques tendent à monopoliser une niche en particulier (comme les réseaux sociaux ou le commerce en ligne), leur concurrence se situe à un niveau supérieur : celui des services de l’information.
 |
L’ingrédient mystère d’un tel succès n’est autre que l’intelligence artificielle (IA). Cette dernière s’est nourrie des données collectées auprès des utilisateurs de plateformes technologiques mises au point par la Silicon Valley à l’époque où elle s’adressait aux consommateurs. Maintenant qu’elle est développée, cette capacité d’IA peut servir des intérêts très différents, ceux du gouvernement ou du secteur privé, par exemple, privant ses anciens chouchous du bienfaiteur qui subventionnait jusqu’ici leurs vidéos de chatons.
 |
| L’INTELLIGENCE ARTIFICIELLE DE GOOGLE A APPRIS À DEVENIR « TRÈS AGRESSIVE » LORS DE SITUATIONS STRESSANTES |
Aucune force politique actuelle ne saurait comment gérer des problèmes tels que les fausses nouvelles ou les cyberattaques sans l’aide providentielle de la Silicon Valley
Les progrès de l’IA rendent la Silicon Valley indispensable. C’est une chose pour les entreprises technologiques de s’inquiéter de savoir si leurs utilisateurs peuvent se payer une paire de baskets, en les harcelant de pubs sur tous les sites Web. C’en est une autre de proposer des services que seule l’IA peut fournir et qui influent sur des aspects essentiels de notre existence.
Prenez par exemple la lutte contre les fausses nouvelles, les cyberattaques, le cancer, le gaspillage énergétique : l’IA, concentrée dans les mains d’une oligarchie, est déployée dans tous ces domaines. Le monde survivrait sans trop de mal à la disparition des fournisseurs de publicité et des sites de vente en ligne, mais aujourd’hui il ne peut pas se passer de solutions utilisant l’IA pour résoudre ses nombreuses crises.
La Silicon Valley rejoint ainsi Wall Street dans la catégorie des secteurs too big to fail (en français « trop important pour disparaître »), à ceci près que pour les politiciens centristes, son effondrement aurait aussi d’immenses conséquences idéologiques. Au demeurant, aucune force politique actuelle ne saurait comment gérer des problèmes tels que les fausses nouvelles ou les cyberattaques sans l’aide providentielle de la Silicon Valley. Nos dirigeants ne sont pas du tout prêts à adopter la solution la plus évidente, qui consisterait à rechercher les causes du problème, au lieu d’atténuer leurs effets à grands renforts d’IA.
Que penser alors de l’engagement de Mark Zuckerberg à revoir sa plateforme pour faire en sorte que « le temps passé sur Facebook ne soit pas du temps perdu » ? Des ingénieurs de la Silicon Valley ayant récemment avoué qu’ils contribuaient à renforcer l’addiction des utilisateurs, on peut en déduire l’orientation générale que prendra ce Facebook 2.0.
Employant une fois de plus la rhétorique de la compassion, il promettra d’éliminer ses contenus stupides en déployant sa puissante intelligence artificielle pour trouver des posts intéressants et épanouissants. Et, comme d’habitude, Facebook nous dira que plus il en sait sur nous, meilleures seront ses recommandations.
C’est bien là le nœud du problème : en ce bas monde, les grands groupes technologiques opèrent des services de communication hautement addictifs afin d’accumuler des données sur nous et raffiner leurs solutions d’IA dans tous les domaines, y compris pour répondre à l’addiction qu’ils ont eux-mêmes créée.
La dystopie commence véritablement quand, sous la pression de la concurrence, les derniers vestiges de la logique de compassion feront place à celle de l’indifférence : accros aux contenus stupides et perdus dans le labyrinthe infini des mèmes de provenance douteuse, nous, l’excédent de population en ligne, devrons finalement nous débrouiller seuls.
Heureusement, pour certains, les entreprises technologiques vendront des services de protection adaptés, basés sur l’IA. Les élites intellectuelles s’en sortiront en suivant des cures, l’équivalent numérique du chou kale et du quinoa, en regardant des sites d’artisanat cachés aux non-initiés. Tous les autres seront condamnés à se gaver de mèmes sans intérêt, générés par des machines d’apprentissage dans le seul but de nous convaincre d’acheter la version de luxe de notre plateforme favorite pour être enfin tranquilles. L’avantage, c’est que le capitalisme numérique fournit des solutions à ses propres problèmes, l’inconvénient, c’est qu’il le fait selon ses propres termes.
Evgeny Morozov
(1) Lire Benjamin Hue, « L’application de Google qui trouve votre sosie artistique soulève des inquiétudes », RTL.fr, 18 janvier 2018.
Traduction depuis l’anglais : Métissa André
• Version anglaise sur le site du Guardian
- RETOUR DE BÂTON POUR LA SILICON VALLE
- ALPHABET PRÉPARE L’APRÈS-GOOGLE
- LA RANÇON ET LA RENTE
- LES VRAIS RESPONSABLES DES FAUSSES NOUVELLES
- LA SÉCU SELON UBER