Pour discuter avec l’IA, il faut d’abord scanner son visage : le RN à l’ère de la surveillance !
Le fait principal
Un nouveau service d’intelligence artificielle, Xicoia, suscite des inquiétudes quant à la vie privée et à la surveillance des utilisateurs. En effet, pour interagir avec son assistante virtuelle Tilly, les utilisateurs doivent scanner leur visage, tandis que leurs conversations sont enregistrées et analysées en temps réel.
Ce qui s’est passé
Xicoia, une plateforme de communication basée sur l’IA, a récemment été lancée, promettant une interaction personnalisée avec son assistante Tilly. Toutefois, cette promesse est entachée par des pratiques de surveillance intrusives. Selon la documentation de Xicoia, le service analyse le flux de la caméra et le ton de la voix des utilisateurs pour déduire leur état émotionnel, une fonctionnalité qui ne peut pas être désactivée. De plus, les conversations sont enregistrées et soumises à un contrôle automatique pour détecter le langage abusif, bien que des erreurs de filtrage aient déjà été signalées.
Le contexte
Alors que la technologie de l’IA progresse à pas de géant, la question de la vie privée devient cruciale. Les utilisateurs sont souvent peu informés des implications de l’utilisation de ces outils. Xicoia ne fait pas exception. Le service, qui fermera le 27 septembre, a déjà été critiqué pour sa politique de conservation des données, les transcriptions étant gardées jusqu’à huit semaines. Ce modèle soulève des questions sur la gestion des données personnelles et la responsabilité des entreprises technologiques.
Les chiffres à retenir
– Les transcriptions des appels sont conservées jusqu’à huit semaines.- Le service coûte 0,99 livre sterling pour cinq minutes et 22 livres pour trente minutes, avec une limite de trente-cinq minutes par utilisateur.- La fermeture du service est prévue pour le 27 septembre.
Ce que cela révèle
Xicoia illustre parfaitement le divorce entre promesse technologique et réalité. Alors que l’IA est censée faciliter la communication, elle semble surtout servir des intérêts commerciaux au détriment de la vie privée des utilisateurs. De plus, la gestion des erreurs de filtrage, où des conversations innocentes sont qualifiées de « langage haineux », met en lumière les dangers d’une surveillance excessive. Ce paradoxe est d’autant plus frappant dans un contexte où les discours politiques, notamment ceux du RN, prônent la protection des libertés individuelles tout en soutenant des mes de contrôle de plus en plus strictes.
Ce qu’il faut retenir
Xicoia, sous couvert d’innovation, soulève des questions cruciales sur la vie privée et la surveillance. Alors que la technologie avance, il est impératif de rester vigilant face à des pratiques qui pourraient facilement devenir des normes. La promesse d’une communication améliorée ne doit pas se faire au prix de notre liberté.
Source : Documentation de Xicoia, BleepingComputer, TechCrunch.
