Une image d’une jeune femme portant un t-shirt, assise sur la cuvette des toilettes et avec le short baissé jusqu’à mi-cuisse… Cette photographie, de mauvaise qualité et très granuleuse, fait partie d’un ensemble d’environ quinze autres que le MIT Technology Review a pu consulter sur des groupes de médias sociaux normalement fermés. Toutes ces photos ont en commun d’avoir été prises au niveau du sol. En effet, ce n’est pas une personne qui les a capturées, mais un robot aspirateur Roomba J7 de la société iRobot, le principal fabricant de ce type d’appareil.
Alors, comment ces images capturées par des aspirateurs ont-elles fini sur des réseaux sociaux, même privés ? Et pourquoi ces aspirateurs prennent-ils des photos ? Comme pour la plupart des appareils dits intelligents, le fabricant collecte de nombreuses données. Celles-ci servent à alimenter l’algorithme d’apprentissage automatique de l’intelligence artificielle, qui améliore les services et les capacités de l’appareil. Dans le cas d’un robot aspirateur, les capteurs sont nombreux et il y a même des caméras intelligentes embarquées sur le Roomba J7. Le robot peut envoyer des images, des voix, des visages, des géolocalisations, des plans des habitations et de nombreuses autres informations personnelles.
Cependant, cette collecte a un seul objectif : entraîner les algorithmes. Généralement, cette collecte est mentionnée dans la politique de confidentialité que personne ne prend le temps de lire. Dans ce cas précis, ces photos proviennent des robots de développement utilisés par les employés et les testeurs rémunérés par la marque.
L’affaire remonterait à 2020 et ces personnes auraient signé des accords écrits reconnaissant qu’elles renvoyaient des flux de données, y compris des vidéos, à l’entreprise. Autrement dit, cette collecte particulière ne concerne pas les clients de la marque. C’est un début d’explication, mais cela ne justifie pas le fait que ces photos se soient retrouvées par la suite sur des réseaux sociaux. Ces données sensibles ont quitté les réseaux domestiques de foyers en Amérique du Nord, en Europe et en Asie pour être stockées sur les serveurs d’iRobot au Massachusetts (États-Unis).
Mais selon le MIT, certaines de ces données ont été envoyées à un sous-traitant de San Francisco appelé Scale AI. Sa mission consiste à faire analyser les données par des humains pour leur donner des étiquettes de description. C’est la seule façon d’apprendre à l’IA à reconnaître son environnement et à identifier, par exemple, un câble qui traîne ou une chaussette. Or, face aux montagnes de données, il se trouve que Scale AI utilise des sous-traitants dans le monde entier. Parmi eux, des travailleurs vénézuéliens sous contrat ont publié ces photos sur des groupes privés de réseaux sociaux tels que Facebook et Discord. La fuite ne provient donc pas d’une faille de sécurité, mais d’un maillon faible dans la chaîne de sous-traitance de la marque.
Le problème, c’est qu’iRobot a déclaré au MIT avoir partagé à ses sous-traitants plus de deux millions de clichés pris par le Roomba. Si cette histoire est arrivée pour des données provenant d’appareils de développement, cela pourrait être aussi le cas pour l’aspirateur de n’importe quel client. Il est inconcevable pour les utilisateurs qu’un humain puisse les observer à travers leur aspirateur. Suite à cette enquête du MIT, iRobot a expliqué avoir mis fin à sa collaboration avec la société dont les employés avaient divulgué les images. Néanmoins, l’intervention d’humains est la seule possibilité pour améliorer les IA.