Les nouvelles fonctionnalités d’IA de l’Apple Watch normalisent la technologie d’écoute permanente

Apple pousse les consommateurs à adopter une nouvelle norme : vos appareils écoutent en permanence.

Lors du lancement d’iPhone « Surprise et Éclat » de mercredi, qui a présenté les derniers matériels, la véritable révélation n’était pas le iPhone pliable tant attendu, mais plutôt la manière dont une entreprise connue pour ses normes strictes en matière de confidentialité prévoit désormais d’autoriser ses montres à traiter l’audio en direct et à transcrire des conversations en temps réel.

Cela implique-t-il que vous êtes enregistré chaque fois que quelqu’un à proximité porte une Apple Watch ? Pas nécessairement, bien que cela puisse toujours susciter un malaise chez beaucoup.

Ce développement soulève également des questions sur le fait de savoir si les consommateurs souhaitent réellement cette technologie, ou si Apple a accéléré son développement pour devancer des concurrents comme OpenAI dans le lancement d’appareils IA rivaux.

Actuellement, plusieurs startups fonctionnent sur le principe que la transcription pilotée par l’IA est une application principale des consommateurs pour l’intelligence artificielle. La plupart de ces services se concentrent sur la transcription de notes de réunion, de cours ou d’entretiens. Quelques entreprises, telles que le fabricant de pendentifs IA Friend et Bee d’Amazon, se sont étendues à des compagnons IA toujours actifs qui prennent passivement des notes pour aider les utilisateurs à se souvenir des événements quotidiens.

Apple a choisi une voie distincte. Grâce aux fonctionnalités « intelligence audio », « Live Rewind » et « Siri Recap » de ses nouvelles montres, l’entreprise équilibre accessibilité et utilité contre ce qui ressemble de plus en plus à une surveillance intrusive.

Individuellement, l’Intelligence Audio semble être un outil précieux pour les personnes sourdes ou malentendantes. Elle utilise l’IA intégrée à l’appareil pour alerter les utilisateurs d’Apple Watch de sons tels que des sirènes, des alarmes, des sonnettes et des bébés qui pleurent. Cette fonctionnalité fonctionne indépendamment de l’iPhone et peut même fournir une assistance salvatrice, comme la détection d’alarmes incendie ou de détecteurs de monoxyde de carbone. La plupart des gens soutiendraient probablement cette forme d’IA audio.

Crédits image :Apple

Cependant, Live Rewind et Siri Recap vont au-delà de la technologie d’assistance dans un territoire plus ambigu.

Bien que les mesures de protection des données d’Apple puissent rendre ces fonctionnalités plus acceptables pour certains, normaliser la technologie d’écoute reste une stratégie discutable pour une marque fondée sur la confidentialité. Cette préoccupation est amplifiée par le rejet croissant du public envers les outils de surveillance tels que les caméras Flock, les centres de données IA et diverses applications IA.

Par exemple, la fonctionnalité Live Rewind permet aux utilisateurs de revoir et de transcrire les 15 dernières secondes de conversation en appuyant deux fois sur la couronne numérique. Ces transcriptions peuvent être enregistrées dans la nouvelle application Siri autonome d’Apple pour une référence ultérieure.

Crédits image :Apple

Apple suggère que cette fonctionnalité pourrait aider les utilisateurs à se souvenir des « recommandations de livres, d’une idée brillante d’un collègue ou de quelque chose que vous n’avez pas entendu la première fois. » Cependant, elle permet également aux utilisateurs de capturer et d’enregistrer des déclarations que d’autres n’ont peut-être pas eu l’intention de faire enregistrer.

Cela soulève des problèmes importants de consentement, tant éthiquement que légalement. Le fabricant d’appareils IA Plaud, par exemple, conseille aux utilisateurs d’obtenir le consentement légalement requis avant d’enregistrer. De même, les conditions d’utilisation de Bee d’Amazon rappellent aux utilisateurs qu’ils sont seuls responsables du respect des lois concernant la confidentialité des données des mineurs, et non Amazon.

Puisque Apple ne stocke pas de fichiers audio, il reste unclear comment les tribunaux traiteront ces transcriptions uniquement textuelles. Bien que de telles notes puissent être recevables comme preuve, leur manque de contexte audio pourrait compliquer l’authentification et la vérification. De plus, les normes probantes pour leur utilisation peuvent varier selon les juridictions.

Au-delà des préoccupations juridiques, la capacité d’enregistrer de l’audio via une montre a des implications culturelles.

Des études ont montré que la présence d’appareils d’enregistrement, ainsi que la culture des réseaux sociaux et de la surveillance des données, modifie le comportement dans la vie réelle. La conscience que l’on pourrait être enregistré à tout moment peut supprimer l’interaction et l’expression de soi.

Crédits image :Apple

Enregistrer une photo ou une vidéo nécessite généralement une action visible, comme tenir un téléphone et le pointer vers le sujet. En revanche, capturer de l’audio pour la transcription via une simple pression sur la couronne de la montre est beaucoup plus subtile, malgré l’inclusion par Apple d’une sonnette audible et d’une animation de microphone en plein écran.

Une autre nouvelle fonctionnalité, « Siri Recap », utilise l’écoute ambiante pour « prendre des notes de haut niveau » des conversations, qui peuvent être consultées dans l’application iOS Siri. Ces notes génèrent automatiquement des titres, des résumés et des points clés basés sur l’analyse de l’IA, plutôt que de fournir des transcriptions mot pour mot.

Apple suggère que cette fonctionnalité est utile pour capturer les conclusions des réunions ou les informations clés des conférences parents-enseignants.

L’entreprise a également souligné son engagement envers la confidentialité des utilisateurs concernant ces fonctionnalités d’écoute.

Apple note que Siri Recap n’est pas activée par défaut, contrairement à certaines autres montres connectées IA. Les utilisateurs peuvent choisir quand l’activer, par exemple uniquement pendant les heures de travail ou à des moments spécifiques de la journée, et peuvent activer ou désactiver la fonctionnalité via le Centre de contrôle à tout moment.

Il est notable qu’Apple déclare ne pas créer ni stocker d’enregistrements audio, et que l’audio brut reste inaccessible, même pour Apple. Le système évite également d’identifier ou d’attribuer les locuteurs, et il protège les transcriptions et résumés générés avec un chiffrement de bout en bout.

Que ces mesures soient suffisantes pour empêcher les utilisateurs de se sentir mal à l’aise reste à voir. Apple a soit trouvé le bon équilibre entre utilité et confidentialité, soit se prépare à un rejet important de la part des consommateurs.