[:en]Algorithmic transparency[:fr]Transparence algorithmique[:]

[:en]Algorithmic transparency is openness about the purpose, structure and underlying actions of the algorithms used to search for, process and deliver information. An algorithm is a set of steps that a computer program follows in order to make a decision about a particular course of action.

The question of whether or not algorithms that affect the general public should be made transparent is controversial. Take, for example, a program used to determine credit scores. Should someone be given a lower credit rating than they think they deserve, they have the right to appeal the score, but not the right to demand that algorithms used to determine the poor score be made public. This is because the company that determined the person’s credit score also has rights — in this case, the right to protect their intellectual property (IP).

A common method used to provide transparency and ensure algorithmic accountability is the use of third party audits. This approach is known as qualified transparency. After complaints were made to the Federal Trade Commission about the search giant Google, for example, watch-dog algorithms created by FTC staffers found that Google’s search algorithms generally caused its own services to appear ahead of others in search results. To provide transparency, the criteria used in the evaluation, as well as the results, were publicly released and explained. Although the FTC decided Google’s actions were not anti-competitive in nature, the negative publicity the investigation created inspired Google to make changes.

Decisions made by algorithms can be opaque because of technical and social reasons, in addition to being made purposely opaque to protect intellectual property. For example, the algorithms may be too complex to explain or efforts to explain the algorithms might require the use of data that violates a country’s privacy regulations. Regardless of the reasons, governments, corporations and private organizations throughout the world are exploring ways to address the issue of algorithmic best practices and accountability and provide the general public with as much transparency as possible to build trust.

Source: http://whatis.techtarget.com/definition/algorithmic-transparency[:fr]La transparence algorithmique peut se définir par une situation d’ouverture sur le but, la structure et les actions sous-jacentes des algorithmes utilisés pour rechercher, traiter et fournir des informations. Un algorithme est un ensemble d’étapes qu’un programme informatique suit afin de prendre une décision sur un plan d’action particulier.

La question de savoir si oui ou non les algorithmes qui affectent le grand public devraient être transparents est sujette à controverse. Prenez, par exemple, un programme utilisé pour déterminer les scores de crédit. Si quelqu’un se voit attribuer une cote de crédit inférieure à ce qu’il pense mériter, il a le droit de faire appel du score, mais pas le droit d’exiger que les algorithmes utilisés pour déterminer le mauvais score soient rendus publics. C’est parce que la société qui a déterminé le pointage de crédit de la personne a également des droits – dans ce cas, le droit de protéger leur propriété intellectuelle (PI).

Une méthode courante utilisée pour assurer la transparence et la responsabilité algorithmique est l’utilisation d’audits tiers. Cette approche est connue sous le nom de transparence qualifiée. Après des plaintes à la Federal Trade Commission sur le géant de la recherche Google, par exemple, des algorithmes de surveillance créés par des employés de FTC ont permis de découvrir que les algorithmes de recherche de Google faisaient apparaître ses propres services avant ceux des autres dans les résultats de recherche. Pour assurer la transparence, les critères utilisés dans l’évaluation, ainsi que les résultats, ont été publiés et expliqués. Bien que la FTC ait décidé que les actions de Google n’étaient pas de nature anticoncurrentielle, la publicité négative créée par l’enquête a incité Google à apporter des changements.

Les décisions prises par les algorithmes peuvent être opaques pour des raisons techniques et sociales, en plus d’être volontairement opaques pour protéger la propriété intellectuelle. Par exemple, les algorithmes peuvent être trop complexes à expliquer ou des efforts pour expliquer les algorithmes peuvent nécessiter l’utilisation de données qui enfreignent les règles de confidentialité d’un pays. Quelles que soient les raisons, les gouvernements, les entreprises et les organisations privées du monde entier explorent des moyens d’aborder la question des meilleures pratiques algorithmiques et de la reddition de comptes et offrent au public le plus de transparence possible pour instaurer la confiance.

Source: http://whatis.techtarget.com/definition/algorithmic-transparency

 

 [:]