AI PNL dans le système judiciaire, Tech For Good News

Actualités de de l'Intelligence Artificielle - Machine Learning - Objets connectés

AI PNL dans le système judiciaire, Tech For Good News


Le biais est une chose, mais l’inexactitude de l’accent en est une autre.

L’actualité technologique du développement durable

Vous cherchez le résumé des nouvelles de cette semaine?
Défiler vers le bas.

Cette semaine comprend une formation gratuite à l’IA pour combler la fracture numérique, la formule gagnante des startups technologiques de l’UE, les technologies existantes peuvent-elles résoudre le défi climatique et plus encore. Faites défiler vers le bas👇

Cette semaine, j’ai repéré un article sur l’utilisation de l’IA pour surveiller les appels téléphoniques des personnes incarcérées.

L’idée est d’utiliser le type de technologie de traitement du langage naturel (NLP) que nous connaissons tous grâce à Siri ou Alexa pour enregistrer, transcrire et déclencher des alertes en fonction du contenu des conversations enregistrées entre les détenus et leurs interlocuteurs. dehors ».

Ces types de technologies ont explosé ces dernières années, et quand on pense au battage médiatique actuel autour de la puissance de l’IA aujourd’hui, une grande partie de ce sentiment est motivée par la croissance de ces types d’applications (bien que la reconnaissance d’images ait également beaucoup progressé).

La chose est, La PNL se trompe. Beaucoup.

L’article explique ensuite comment les prisonniers sont souvent soumis à des procès technologiques, comment les informations interprétées par machine ne devraient pas faire partie du système judiciaire et comment la PNL pilotée par l’IA est nettement pire pour les locuteurs noirs que pour les blancs.

Les chercheurs ont découvert que le logiciel de reconnaissance vocale automatique d’Amazon avait un taux d’erreur pour les locuteurs noirs presque deux fois plus élevé que pour les locuteurs blancs.

J’ai été impliqué dans un certain nombre de projets de reconnaissance vocale, récemment sous la forme de chatbots et il y a plus longtemps sous la forme de voitures à commande vocale, et je dois dire que « deux fois plus haut » est un sérieux motif de préoccupation. .

NLPain

Recherchez « alexa » sur ce site et vous trouverez un certain nombre d’articles qui parlent de ma frustration face à la technologie de pointe. intelligent technologies des haut-parleurs. Mais mon histoire de douleur avec la « voix-à-texte » remonte au siècle dernier.

Alors que je travaillais pour ce que l’on appellerait désormais un « incubateur » chez l’un des plus grands opérateurs de télécommunications au monde, je faisais partie d’une équipe qui a été invitée à tester la dernière voiture de luxe avec commande vocale intégrée. Pour aider à planter le décor, la 3G n’était pas encore monnaie courante à cette époque, et les ordinateurs de bord n’étaient pas aussi puissants qu’aujourd’hui. Cela signifiait que la reconnaissance vocale était rudimentaire et sujette aux erreurs.

J’ai parcouru quelques kilomètres en voiture avant d’abandonner et de retourner à la base. « Feux allumés » fonctionnait parfois, mais activait parfois l’essuie-glace arrière. « Tune to Radio 1 » fonctionnait la plupart du temps, tout comme « wind up windows ». Mais j’en avais assez, c’était gênant pour l’expérience de conduite autrement incroyable.

Le suivant dans la voiture était un ami de Bolton, au Royaume-Uni. Si vous n’êtes pas familier avec cet accent, consultez cette page pour un exemple. Ce n’est pas le plus difficile à comprendre, cependant….mon ami n’est pas sorti du parking avant de jeter les clés avec une « voiture bluddy ! » frustrée !

Il s’avère que pratiquement toutes les commandes qu’il a émises ont entraîné l’ouverture du coffre de la voiture et l’ont obligé à sortir pour le fermer.

Les choses ont progressé depuis, bien sûr, mais il y a encore des frustrations quotidiennes que beaucoup d’entre nous connaissent, j’en suis sûr.

Maintenant, ramenant cela à l’article ci-dessus, s’il peut y avoir autant de problèmes avec les accents vanille sur lesquels ces modèles ont été formés au départ, des taux d’erreur du double de ceux-ci sont sûrement des motifs de sérieuses inquiétudes – en particulier en ce qui concerne les décisions de liberté et justice.

Un autre outil dans la ceinture

En réalité, ces outils sont utilisés tout autour de nous, tous les jours. Les appels Zoom peuvent désormais être transcrits à la volée, les réunions historiques peuvent être analysées pour aider à ajuster et affiner un processus de vente, et nos mots écrits sont systématiquement analysés pour le sentiment.

En effet, j’utilise le service voix-texte d’Otter.ai pour enregistrer et transcrire des notes et des réunions, j’utilise Siri et Alexa pour contrôler les choses avec ma voix, et j’ai même écrit un programme pour analyser le sentiment des messages de mon Les abonnés de Twitter (après avoir réalisé que certains d’entre eux débitaient des bêtises auxquelles je préférerais ne pas être associé).

Avec tout cela, il y a des marges d’erreur. Par l’expérimentation (et la frustration), j’ai découvert ces marges et j’essaie d’y travailler.

À titre d’exemple particulier, il y a quelques années, j’ai utilisé Siri pour dicter un message à ma mère qui était censé dire « Connaissez-vous son numéro pour que je puisse l’appeler » mais j’ai fini par dire « Chez les médecins, j’ai un cancer ». Apprenant du traumatisme qui a suivi, j’essaie maintenant de toujours vérifier mes messages avant d’appuyer sur envoyer !

Je ne peux qu’espérer que la mise en œuvre de technologies comme celle-ci soit utilisée dans les limites de leurs marges de sécurité et utilisées (au moins avec les technologies d’aujourd’hui) comme un autre outil pour aider les humains à faire le travail. Pas le seul outil.

L’actualité technologique du développement durable suit :

Si vous avez trouvé cela utile, partagez-le et utilisez le formulaire ci-dessous pour vous inscrire à plus de contenu comme celui-ci. Avez-vous des nouvelles Tech With Purpose ou Tech For Good à partager, faites-le moi savoir ici.

Lorsque vous utilisez le formulaire ci-dessous, je parraine la plantation d’un arbre en votre nom.