Transparence algorithmique

La transparence algorithmique peut se définir par une situation d’ouverture sur le but, la structure et les actions sous-jacentes des algorithmes utilisés pour rechercher, traiter et fournir des informations. Un algorithme est un ensemble d’étapes qu’un programme informatique suit afin de prendre une décision sur un plan d’action particulier.

La question de savoir si oui ou non les algorithmes qui affectent le grand public devraient être transparents est sujette à controverse. Prenez, par exemple, un programme utilisé pour déterminer les scores de crédit. Si quelqu’un se voit attribuer une cote de crédit inférieure à ce qu’il pense mériter, il a le droit de faire appel du score, mais pas le droit d’exiger que les algorithmes utilisés pour déterminer le mauvais score soient rendus publics. C’est parce que la société qui a déterminé le pointage de crédit de la personne a également des droits – dans ce cas, le droit de protéger leur propriété intellectuelle (PI).

Une méthode courante utilisée pour assurer la transparence et la responsabilité algorithmique est l’utilisation d’audits tiers. Cette approche est connue sous le nom de transparence qualifiée. Après des plaintes à la Federal Trade Commission sur le géant de la recherche Google, par exemple, des algorithmes de surveillance créés par des employés de FTC ont permis de découvrir que les algorithmes de recherche de Google faisaient apparaître ses propres services avant ceux des autres dans les résultats de recherche. Pour assurer la transparence, les critères utilisés dans l’évaluation, ainsi que les résultats, ont été publiés et expliqués. Bien que la FTC ait décidé que les actions de Google n’étaient pas de nature anticoncurrentielle, la publicité négative créée par l’enquête a incité Google à apporter des changements.

Les décisions prises par les algorithmes peuvent être opaques pour des raisons techniques et sociales, en plus d’être volontairement opaques pour protéger la propriété intellectuelle. Par exemple, les algorithmes peuvent être trop complexes à expliquer ou des efforts pour expliquer les algorithmes peuvent nécessiter l’utilisation de données qui enfreignent les règles de confidentialité d’un pays. Quelles que soient les raisons, les gouvernements, les entreprises et les organisations privées du monde entier explorent des moyens d’aborder la question des meilleures pratiques algorithmiques et de la reddition de comptes et offrent au public le plus de transparence possible pour instaurer la confiance.

Source: http://whatis.techtarget.com/definition/algorithmic-transparency