Le 19 novembre, l’autorité néerlandaise de protection des données a déconseillé l’achat de lunettes-caméras dotées d’IA pour un usage général. Elle a étudié six modèles vendus aux Pays-Bas. Deux ont subi des essais plus poussés dans des situations simulées où la sécurité pouvait dépendre de la réponse. L’une des paires a annoncé l’arrivée d’une ambulance alors que les secours n’avaient pas été contactés. Le régulateur a aussi constaté des défauts dans les signaux de capture, la sécurité des logiciels et les informations sur l’usage des données. L’annonce formule un conseil d’achat à propos d’une catégorie de produits et n’instaure pas d’interdiction nationale de vente. Avis de l’autorité néerlandaise de protection des données · Reportage de NOS
Imaginons deux personnes au guichet d’une clinique. L’une porte des lunettes capables de lire un formulaire. L’autre parle de son rendez-vous. Le porteur entend son assistant répondre. La personne à côté peut apercevoir une lumière ou ne reconnaître aucun signal. Chacune a besoin de savoir autre chose. Le porteur doit comprendre si les lunettes ont seulement lu des mots ou joint un service. La personne devant la caméra doit savoir si l’appareil a capté, envoyé ou conservé une partie de l’échange. Cette scène fictive montre comment une fonction utile à l’un peut créer une incertitude pour l’autre.
L’essai néerlandais invite à vérifier ce que l’appareil a réellement fait au moment où quelqu’un doit décider. Il faut une confirmation pour la personne qui demande de l’aide, un signal compréhensible par les autres et une information fiable sur la destination des données. Les lunettes peuvent répondre rapidement tout en laissant ces trois questions ouvertes.
Ce que six produits permettent de constater#
Le rapport est daté du 18 novembre et a été présenté avec l’avis du lendemain. Ses auteurs décrivent une étude de sécurité par échantillon dans le cadre du contrôle de l’IA. Ils ont examiné la conception, la documentation et les réactions de certains modèles à des mises en situation. Ce travail a un objet distinct d’une enquête sur une éventuelle infraction d’une société désignée au règlement européen sur les données. L’échantillon révèle des difficultés dans certains produits vendus. Il ne mesure pas leur fréquence sur l’ensemble du marché et ne relie pas les résultats à des marques. Rapport de l’autorité
Une monture peut contenir une caméra, un microphone et des haut-parleurs. Elle peut se connecter à une application et envoyer des informations vers des services externes. Certains modèles possèdent aussi un écran. Un petit appareil devient ainsi l’interface de plusieurs systèmes. La monture, son boîtier, le téléphone et le service distant peuvent avoir des connexions et réglages distincts. Le porteur voit un assistant, tandis que les difficultés peuvent apparaître à différents endroits. L’étude s’intéresse à la conception et à la documentation parce que l’acheteur doit pouvoir comprendre ces éléments. Explication de NOS sur les appareils · Rapport du régulateur
L’échantillon comprend six modèles vendus aux consommateurs. Deux ont été soumis à des tâches plus exigeantes que l’ouverture d’un menu. Il faut garder ces deux dénominateurs à l’esprit. La réponse erronée lors de l’urgence simulée a été observée sur une paire. Elle mérite de l’attention en raison des conséquences d’une fausse assurance en situation réelle. L’étude n’établit pas sa fréquence selon les appareils, versions, langues ou conditions. Un contre-exemple permet d’établir qu’une garantie peut échouer. Il faudrait davantage d’observations selon une méthode définie pour en mesurer la fréquence.
Les essais portent aussi sur un état du logiciel à un moment donné. Les lunettes peuvent recevoir un nouveau micrologiciel et l’assistant peut changer sans remplacement de la monture. Une version peut corriger la précision d’une réponse et laisser l’indicateur ou la suppression des données intacts. Les essais publiés devraient indiquer les versions et reprendre leurs vérifications importantes après un changement. Le revendeur et le régulateur peuvent sinon parler de versions différentes, tandis que l’acheteur ignore si le produit en magasin possède la correction pertinente.
Le rapport reconnaît également des usages utiles pour des personnes malvoyantes, ayant des difficultés de lecture ou ayant besoin d’aide pour comprendre leur environnement. Des lunettes peuvent lire une étiquette, identifier un objet ou aider à s’orienter tout en laissant les mains libres. Le produit doit indiquer la portée de cette assistance et ses limites. Quelqu’un qui s’en sert pour comprendre ce qui l’entoure peut rencontrer davantage de difficultés à vérifier une erreur par ses propres moyens. Le régulateur souligne donc la nécessité d’une confirmation fiable. Avis de l’autorité
Dire quelque chose et le faire sont deux opérations#
Le cas de l’ambulance révèle une difficulté qui dépasse l’erreur factuelle. L’assistant a signalé une action extérieure qui n’avait pas été réalisée. L’annonce de l’arrivée d’un véhicule peut inciter quelqu’un à attendre. Un appareil relié à un service de communication devrait distinguer la préparation d’une requête, son envoi, l’établissement du contact et la réception d’une confirmation. Une réponse fluide n’apporte pas en elle-même la preuve du résultat extérieur. L’expérience néerlandaise montre une situation où cette incertitude a des conséquences possibles. Résultats publiés par l’autorité
Une action ordinaire permet de voir la différence. Imaginons que le porteur demande d’envoyer un message pour signaler son retard. Un brouillon sur le téléphone et un message remis au destinataire sont deux états, même si l’assistant les annonce avec la même assurance. Si l’utilisateur voit lequel est atteint, il peut décider de la suite. Sur des lunettes, une voix ou un petit écran donne moins de contexte que sur un téléphone. Un bon retour permet de reconnaître un échec, un doute et une opération terminée là où l’on a demandé l’action.
L’autorité signale des erreurs dans les essais sur les notices de médicaments, la météo dangereuse et la protection des enfants. Ces situations ont été mises en scène. Elles montrent qu’un assistant peut paraître convaincant alors qu’une source réelle dit autre chose ou qu’il ne dispose pas des moyens d’agir. Une équipe peut vérifier ces limites à chaque version. L’assistant distingue-t-il la lecture d’une notice d’une recommandation ? Un avertissement météo est-il attribué et actuel ? Le produit évite-t-il de garantir un résultat qu’il ne peut établir ? Le test repère les écarts entre la demande et les preuves disponibles. Synthèse des essais néerlandais
L’assistance a plusieurs formes. Une paire peut rendre un texte accessible à quelqu’un qui aurait autrement besoin qu’une personne le lui lise. La même personne peut avoir besoin d’une réponse officielle ou d’une confirmation dans une autre tâche. L’interface doit laisser la possibilité de profiter du premier service et d’atteindre le second. Une description audio précise ce qui a été reconnu et les informations disponibles. Le parcours vers une personne qualifiée ou un service de référence devrait rester accessible quand le téléphone est dans un sac ou sert à autre chose.
La valeur d’une confirmation varie avec le temps disponible. Une personne qui cherche un produit en rayon peut poser une deuxième question si la réponse est vague. Celle qui croit qu’un message urgent a été envoyé peut agir tout de suite. Un taux moyen d’erreur ne dit rien de ces conséquences différentes. Le fabricant peut préciser quelles fonctions lisent des informations, lesquelles peuvent solliciter une action et quel résultat chacune peut vérifier. Le lecteur peut alors voir si l’essai couvre la tâche qui l’intéresse.
Les fabricants ont de bonnes raisons de montrer des appels, traductions et captures réussis, faciles à comprendre en magasin. Une démonstration des échecs aiderait aussi à juger le produit. Elle peut montrer l’avertissement en l’absence de connexion, la différence entre une suggestion et une action accomplie et la reprise lorsque la réponse reste incertaine. Ce sont des situations possibles dans un train, à l’extérieur ou dans une pièce animée. Le produit montre ainsi comment il tient ses promesses là où les personnes le portent effectivement.
Le signal doit être perceptible par la personne filmée#
L’autorité néerlandaise a constaté que les indicateurs de capture étaient difficiles à voir et que leur protection variait selon les appareils. Elle note des défauts de sécurité qui pourraient exposer des enregistrements ou les commandes de la caméra à une personne non autorisée. Elle relève aussi un manque d’informations sur les services et les usages des données. Les fabricants ont donc plusieurs tâches. Le signal visuel ou sonore informe les personnes proches, le logiciel protège l’accès et l’application explique la suite du traitement. Avis de l’autorité
Un voyant se teste aussi depuis l’autre côté de la monture. Près d’une fenêtre, il peut être pris pour un reflet. À un guichet, la personne regarde les yeux du porteur et peut manquer un détail de la monture. Un visiteur malvoyant peut avoir besoin d’un autre signal. L’indicateur doit correspondre à l’état de la capture et être compréhensible par d’autres que le propriétaire. Le fabricant doit vérifier que la collecte ne se produit pas sans l’indication promise.
Le Comité européen de la protection des données a évoqué une difficulté voisine dans sa déclaration d’octobre. L’acheteur voit les avis de confidentialité au moment de l’installation. Une personne captée peut n’avoir aucune relation avec le service. Le comité étudie des combinaisons d’informations et de signaux, notamment visuels et sonores. Une notification téléphonique peut les compléter, mais n’atteint que certains appareils et réglages. Quelqu’un qui se trouve près d’une personne portant des lunettes n’avait aucune raison de télécharger une application à l’avance. La conception doit inclure ces personnes. Déclaration du Comité européen de la protection des données
Voir un signal répond à une partie de la question. Il indique une activité sans préciser si une capture reste sur l’appareil, part vers un assistant, est transmise à une autre personne ou est effacée. Certaines fonctions vocales ou de traduction peuvent traiter des extraits sans produire un enregistrement durable pour le porteur. Les données d’autres personnes peuvent tout de même être traitées. La documentation peut distinguer collecte instantanée et réutilisation, avec un signal simple au moment de la capture.
La distinction peut préserver des usages utiles. Quelqu’un peut vouloir entendre un seul mot sur une carte en partageant le moins possible sur les personnes à table. Un traitement temporaire et précis répond à ce besoin. La capture continue et la réutilisation différée impliquent d’autres objectifs et davantage d’informations. Il faut comprendre ses options avant de lancer la fonction, car des données peuvent partir avant la lecture d’un avis général. Les choix disponibles dépendent de ce que proposent réellement l’appareil et le logiciel.
La possibilité de s’opposer dépend du lieu. Dans un parc, une personne peut s’écarter ou demander l’arrêt. Un patient au guichet, un élève ou un salarié face à un client n’a pas toujours cette liberté. L’organisation peut définir les attentes à l’avance et donner aux équipes un moyen de traiter les plaintes. Un cadre cohérent regarde ce que l’appareil peut capter, son état dans cet endroit et les aménagements nécessaires.
Les règles des lieux doivent pouvoir être appliquées#
L’autorité néerlandaise conseille aux propriétaires et responsables de lieux de prévoir une interdiction du port et de l’usage de lunettes-caméras dans leur règlement. Cela donne aux entreprises, aux écoles et aux institutions un point de départ. La décision d’un lieu se distingue d’une interdiction nationale de vente. L’organisation peut expliquer le périmètre et le rôle de son personnel. Une personne qui dépend d’une aide à la lecture peut s’informer des solutions disponibles. Le règlement sera difficile à appliquer s’il repose sur une discussion improvisée devant l’entrée. Recommandations de l’autorité
À l’accueil d’un hôpital, certaines personnes cherchent une aide pour lire les indications, tandis que d’autres doivent communiquer des informations personnelles. Le guichet peut nécessiter davantage de protection qu’une cour publique. Le règlement doit tenir compte des deux objectifs. L’établissement peut proposer de grands caractères, l’aide du personnel, un moyen de poser une question sans caméra ou une procédure pour les appareils d’assistance. Le panneau d’entrée doit indiquer vers qui se tourner. Le personnel doit pouvoir appliquer la règle sans demander à une personne de détailler publiquement son handicap.
Une organisation peut regarder à quelle fréquence des exceptions sont nécessaires et dans quelle mesure les solutions de remplacement aident. Un appareil de lecture peut avoir son utilité dans une zone d’attente où personne n’échange d’informations de rendez-vous. Une affiche qui propose l’assistance du personnel ne suffit guère si le visiteur doit attendre jusqu’à son rendez-vous avant de trouver quelqu’un. Un examen avec des personnes qui utilisent une aide permet de repérer ces écarts. Le critère est la possibilité de terminer la même tâche en gardant son autonomie et sa confidentialité, même aux heures de forte fréquentation.
Dans une école, les élèves peuvent utiliser un appareil d’assistance et être filmés par d’autres élèves ou des visiteurs. L’établissement doit expliquer ce qui constitue l’enregistrement d’un cours ou d’une autre personne. Une bonne règle indique quand et à quelles fins une capture est permise et ce qui peut être partagé. Elle permet de signaler une difficulté et de recevoir une réponse. Un appareil porté sur le visage complique la supervision si son état reste invisible au premier regard.
Le comité européen souligne que l’utilisateur, le fabricant ou le fournisseur d’une application peuvent être responsables selon qui fixe les objectifs et les moyens du traitement. Dans son texte préliminaire, l’exception européenne accordée aux activités strictement privées ou domestiques a une portée limitée qui s’apprécie au cas par cas. Publier auprès d’un public indéterminé ou travailler avec le dispositif peut entraîner d’autres obligations. Des règles locales peuvent également s’appliquer. Le conseil d’achat néerlandais, le règlement d’un lieu et l’examen d’une capture particulière répondent donc à des questions différentes. Déclaration du comité européen
Des discussions antérieures rappellent la diversité des besoins. Dans un fil Reddit publié plusieurs mois avant l’annonce néerlandaise, certains participants souhaitaient des lunettes sans caméra, alors que d’autres citaient la valeur d’une aide visuelle pour les personnes qui voient mal leur environnement. Ce fil constitue un petit échantillon, qui ne mesure pas l’opinion générale. La distinction entre les appareils selon leur fonction permet d’avancer au-delà d’un seul terme pour tous les modèles. Discussion publique
Les changements de conception et les conditions sont vérifiables#
L’association de consommateurs Consumentenbond a engagé une procédure distincte contre Meta. Elle annonce une audience le 26 novembre à Amsterdam. Elle demande une modification de la conception et des réglages par défaut, ou une restriction de vente si la société ne peut les mettre en œuvre. Elle évoque une exception lorsque le besoin d’assistance est médical. Il s’agit des demandes d’une partie. L’étude n’a pas identifié les produits à l’origine de chaque constat. Selon Reuters, Meta examinait une réponse. La procédure peut faire apparaître des éléments concernant un fabricant et un modèle donnés. Annonce de Consumentenbond · Reportage de Reuters
Reuters rapporte que Meta a déjà défendu son indicateur, en expliquant qu’une lumière signale les photos et vidéos prises avec ses lunettes équipées de caméra. Pour évaluer cette affirmation et celles du régulateur dans un échantillon anonyme, il faut des preuves distinctes. Un fabricant peut présenter les modèles et versions testés, les conditions dans lesquelles le signal est visible et la façon dont les corrections logicielles arrivent. L’acheteur pourra alors comparer ces éléments avec les constats de l’autorité.
Les conditions de traitement méritent la même clarté. Une personne peut vouloir prendre un objet en photo en gardant l’image à l’écart d’un service distant. Une autre peut vouloir traduire un long texte en limitant sa conservation. Les tâches demandent différents choix. La description d’un produit peut préciser ce qui reste dans la monture ou le téléphone, ce qui est transmis, comment fonctionne l’effacement et si les réglages du compte changent le résultat. Elle donne aussi aux personnes proches un moyen de demander qui détient les données les concernant.
Les changements après l’achat comptent autant que l’installation. Si une application ajoute une fonction distante ou modifie une valeur par défaut, le propriétaire doit voir le changement avant la prochaine capture. Une possibilité de désactivation doit rester accessible et efficace après la mise à jour. Un appareil ordinaire peut être prêté ou revendu. Une remise à zéro compréhensible permet au prochain utilisateur de connaître les fonctions actives et au précédent de retirer son compte. Ces détails font partie de l’entretien d’un appareil qui traite des informations sur son entourage.
Une évaluation indépendante peut utiliser une même paire en plein jour, dans une pièce sombre et dans un espace bruyant. Elle peut demander au porteur et aux autres personnes d’identifier un enregistrement, inclure des utilisateurs d’outils d’assistance et vérifier s’ils distinguent une action réalisée d’une suggestion. Une nouvelle version peut améliorer un de ces résultats. Publier les limites de l’essai permet de savoir ce qui change au fil des versions.
Passer d’un téléphone tenu en l’air à un appareil porté toute la journée change la situation sociale. Les deux personnes au guichet peuvent bénéficier d’une aide fiable dont l’état de capture est visible. Elles doivent également comprendre ce qui arrive aux informations échangées. L’alerte néerlandaise invite à vérifier ces conditions avant que le marché ne se développe. La confiance dépendra de la capacité des deux personnes à comprendre le comportement du produit au moment où elles doivent décider.