Fake News, Deep Fake, Fake Bot, l’ère du Faux est en marche
Fake News, Deep Fake, Fake Bot, l’ère du Faux est en marche
Google démasqué par le New-York Times. Le quotidien révèle que près d’un quart des conversations de son robot sont faites par des humains.
Déjà, à la fin du 18ème siècle, un inventaire avait créé un automate capable de jouer aux échecs. Prénommé le « Turc Mécanique », il s’agissait d’une sorte de mannequin capable de vaincre les plus grands joueurs de son temps.
Oeuvre d’ingéniosité de Kempelem, la machine était un meuble creux capable de cacher un être humain. Tout en manipulant le mannequin de l’intérieur, le subterfuge poussait même l’exploit à le faire parler en pointant des lettres avec son bras articulé[1].
250 ans plus tard, le tour fonctionne toujours
La Silicon Valley, qui réalise de réelles prouesses technologiques en matière d’intelligence artificielle, a elle-aussi, réussi ses Kempelem.
Les conférences scientifiques ont laissé place aux conférences marketing. C’est ainsi qu’en grandes pompes, comme à son habitude, Google exhibait l’année dernière son nouvel assistant Duplex[2], défiant avec bravoure le test de Turing[3]. Aboutissement de ses travaux de recherche et de développement en matière d’I.A. grand public, le Google Duplex est capable d’appeler et de dialoguer avec des restaurateurs pour effectuer des réservations. Rien d’autre.
Ce merveilleux automate, disponible sur les Pixels Google, bientôt Galaxy et autres Iphones, s’est rapidement avéré limité à une liste restreinte de restaurants. Quelques semaines plus tard, le New York Times révélait même, que près d’un quart des appels, supposés automatisés, était en fait réalisés par des télé-opérateurs, bien humains ceux-là.
Cette pratique n’est pas sans rappeler la technologie de Kiwi Bot, qui livre des repas par des robots à roulettes façon Google Cars. Cette start-up Californienne, loin de maîtriser cette technologie, emploie des opérateurs Colombiens pour piloter ses drones.
Google, lui, explique sans sourciller, que ses conversations réelles sont stockées et analysées pour parfaire son I.A. Pour l’enrichir, la faire grandir. L’explication tient la route étant donné la voracité des systèmes apprenants ou auto-apprenants.
Mais la finalité de l’IA étant de se mettre au service de l’humain, la réalité veut que l’humain, au bout du compte entre dans le process, qu’il prenne en charge l’éducation du bot.
Dans les stratégies de Traitement Automatique du Langage Naturel (TALN), la collecte et la consolidation des données est assurée dans les pays où la main d’oeuvre est bon marché. Amazon Mechanical Turk, pour ne citer que lui, l’a compris dès 2005 et l’applique pour ses clients et ses propres besoins.
Après Siri, épinglé au printemps par Bloomberg News, ce fut cet été au tour de Google Home d’être démasqué. VRT News révélait [4] que les conversations de l’assistant étaient enregistrées et écoutées par des travailleurs en sous-traitance. Se retranchant derrière ses conditions générales qui lui autorisent tout et n’importe quoi[5], Google avance que l’analyse de ces conversations contribue une fois encore à l’amélioration du service.
Et il faut bien admettre que cela marche.
Au final, même si la réalité est moins belle que la fiction, il n’en demeure pas moins que nous nous dirigeons vers un monde où les “automates” seront légion, et feront bientôt partie de votre quotidien. Enfin, ne croyez pas en la magie de l’IA, mais faites-vous en un allié, et vous serez bien servis, l’intelligence humaine ayant encore de beaux jours devant elle.
Sources :
[1]Über den Schachspieler des Herrn von Kempelen und dessen Nachbildung, https://www.digi-hub.de/viewer/image/BV041097321/1/
[2]Keynote (Google I/O ’18)https://www.youtube.com/watch?v=ogfYd705cRs
