SYSTEM_INTEGRITY: %
Illustration abstraite d’une chaîne de transparence reliant risques algorithmiques, recommandations et recherche dans le cadre du DSA.
Éthique, société et technologie ·

Le DSA ouvre la boîte noire

Équipe Daymain 10 min

Points clés

  • Le DSA impose aux très grandes plateformes et aux très grands moteurs de recherche d’identifier les risques systémiques liés à leurs services, notamment à leurs systèmes algorithmiques.
  • La transparence ne signifie pas un accès général au code source : elle repose sur des informations sur les risques, les mesures d’atténuation, les recommandations et les données utilisées.
  • Les chercheurs agréés peuvent demander l’accès à certaines données non publiques pour étudier les risques systémiques et l’efficacité des mesures prises.
  • Les plateformes doivent documenter leurs actifs de données, leurs métadonnées et certains éléments techniques afin de rendre les recherches plus reproductibles.
  • L’accès peut prendre la forme d’une transmission directe ou d’un environnement de traitement sécurisé, selon la sensibilité des données.
Sommaire

Vous ouvrez une plateforme et les contenus semblent arriver naturellement : une vidéo, un article, un compte à suivre. Pourtant, cette suite dépend de choix techniques qui restent largement invisibles. Quels contenus ont été sélectionnés ? Avec quelles données ? Pour quels effets sur les utilisateurs ? Le DSA ne promet pas une lecture intégrale du code. Il met plutôt en place quelque chose de plus concret : des obligations de transparence, de documentation et d’accès aux données capables de rendre ces choix étudiables.

Vous ouvrez une plateforme et les contenus semblent arriver naturellement : une vidéo, un article, un compte à suivre. Pourtant, cette suite dépend de choix techniques qui restent largement invisibles. Quels contenus ont été sélectionnés ? Avec quelles données ? Pour quels effets sur les utilisateurs ?

Le règlement sur les services numériques, ou DSA, ne demande pas simplement aux très grandes plateformes en ligne et aux très grands moteurs de recherche d’admettre qu’ils utilisent des systèmes de recommandation. Il organise une chaîne de transparence plus exigeante : identifier les risques, documenter les mesures prises, puis permettre à des chercheurs agréés d’examiner les données nécessaires.

La recommandation devient une question de contrôle

Une recommandation n’est jamais seulement une suggestion affichée dans une interface. Elle résulte d’un système qui sélectionne, classe ou personnalise des contenus à partir de plusieurs catégories de données et de règles de fonctionnement. Pour l’utilisateur, le résultat est visible. Les arbitrages qui l’ont produit le sont beaucoup moins.

Cette asymétrie explique l’enjeu du DSA. Une plateforme connaît la structure de ses données, les indicateurs qu’elle suit et les changements apportés à ses systèmes. Un utilisateur, une association ou un chercheur extérieur ne dispose généralement pas du même accès. Ils peuvent observer des contenus, mais pas nécessairement reconstituer les conditions de leur exposition.

Le règlement traite donc la transparence comme une infrastructure de contrôle. Il ne suffit pas de publier une phrase générale sur la personnalisation. Il faut pouvoir relier la conception du service à ses risques potentiels, aux réponses apportées par la plateforme et aux éléments qui permettent d’en vérifier les résultats.

Le Centre européen pour la transparence algorithmique, présenté par la Commission européenne, participe à cette approche scientifique et technique. Son rôle est lié à l’analyse des systèmes algorithmiques, à l’étude des risques systémiques et à l’application du DSA.

La transparence en trois couches

Le DSA relie trois questions : quels risques le système peut-il produire, quelles mesures les plateformes prennent-elles, et quelles données permettent de vérifier leurs effets ?

Première étape : identifier les risques systémiques

Le premier niveau est celui de l’évaluation. Les très grandes plateformes et les très grands moteurs de recherche doivent identifier, analyser et évaluer certains risques systémiques liés à la conception et au fonctionnement de leurs services. Ces risques peuvent notamment découler de leurs systèmes algorithmiques.

Cette obligation change la question posée. Au lieu de demander seulement « comment fonctionne votre recommandation ? », le cadre pousse à demander « quels effets votre conception peut-elle produire à grande échelle, et comment les avez-vous évalués ? »

Le terme systémique mérite d’être compris précisément. Il ne désigne pas une erreur isolée dans une recommandation individuelle. Il renvoie à des effets susceptibles de concerner le fonctionnement du service et une partie importante de ses utilisateurs dans l’Union. Les sources fournies établissent cette logique d’évaluation et de réduction des risques, sans fournir ici une liste détaillée de résultats propres à chaque plateforme.

La plateforme doit ensuite mettre en œuvre des mesures d’atténuation. Cette expression recouvre les réponses destinées à réduire les risques identifiés. Elle ne signifie pas que tout risque disparaît, ni que toute mesure est automatiquement efficace. C’est précisément pour cela que le DSA prévoit un contrôle externe et une surveillance par des chercheurs et la société civile.

Pour une équipe produit, la conséquence est concrète : la recommandation n’est plus uniquement un sujet d’optimisation interne. Ses paramètres, ses données et ses effets peuvent entrer dans une évaluation plus large du service. La performance d’un indicateur ne suffit donc pas à raconter l’histoire complète.

Un système de recommandation

C’est l’ensemble des mécanismes qui sélectionnent, classent ou personnalisent les contenus présentés à un utilisateur. Le DSA s’intéresse à ses effets, à ses données et à sa conception.

Deuxième étape : rendre les choix observables

La transparence algorithmique est souvent associée à une demande spectaculaire : ouvrir le code source. Ce n’est pas la bonne grille de lecture pour les obligations décrites ici. Le cadre présenté par les sources organise surtout une documentation des risques, des mesures d’atténuation et des données utiles à l’examen indépendant.

Un code rendu public ne suffirait d’ailleurs pas, à lui seul, à expliquer une recommandation. Il faudrait encore comprendre les données d’entrée, les catégories de contenus, les indicateurs d’engagement, les changements successifs et la manière dont le système est déployé. Un modèle peut être lisible sur le papier tout en restant difficile à étudier sans traces de fonctionnement.

Les informations pertinentes se situent donc à plusieurs niveaux. Il y a les contenus auxquels une personne a été exposée, les interactions qui ont suivi, les recommandations produites et les données utilisées pour personnaliser ces recommandations. Il y a aussi la documentation qui permet de comprendre la structure de ces actifs et leurs limites.

Cette approche est plus modeste qu’une promesse d’explication totale, mais elle est aussi plus opérationnelle. Elle donne à un chercheur des éléments pour formuler une question testable : certains profils reçoivent-ils des recommandations différentes ? Une modification du système change-t-elle l’exposition ? Les mesures d’atténuation réduisent-elles réellement le risque étudié ?

La transparence devient alors une relation entre une décision technique et une observation possible. La plateforme n’a pas seulement à parler de son système ; elle doit contribuer à rendre ses effets examinables.

Ce que le DSA ne confond pas

Approche courante

Transparence algorithmique : rendre les mécanismes et leurs effets suffisamment documentés pour être examinés.

Approche recommandée

Accès au code : obtenir le logiciel lui-même. Le DSA, tel que décrit par les sources retenues, organise surtout la documentation, l’évaluation des risques et l’accès encadré aux données.

Ce que les chercheurs peuvent demander

Le DSA prévoit que les chercheurs qui remplissent les conditions requises puissent accéder aux données des très grandes plateformes et des très grands moteurs de recherche. L’objectif est d’étudier les risques systémiques dans l’Union et d’évaluer l’efficacité des mesures d’atténuation.

La nuance est essentielle : il ne s’agit ni d’un accès général, ni d’un droit automatique pour toute personne qui souhaite analyser une plateforme. L’accès aux données non publiques passe par une procédure. La demande doit être motivée, et les données sollicitées doivent correspondre au projet de recherche présenté.

L’acte délégué adopté en 2025 précise cette procédure. Il prévoit l’intervention des coordinateurs pour les services numériques, un portail européen d’accès aux données et un cadre destiné à organiser les demandes de manière plus homogène. La plateforme ne décide donc pas seule, dans un espace entièrement informel, de ce qu’elle accepte ou refuse.

Les données mentionnées dans l’acte délégué donnent une idée du niveau d’observation recherché. Un projet peut porter sur les historiques individuels d’exposition et d’engagement, sur les données relatives aux recommandations ou sur les données utilisées pour personnaliser celles-ci.

Cette liste ne doit pas être lue comme une promesse d’accès identique dans tous les cas. La nature du projet, la sensibilité des informations et les modalités de traitement comptent. Mais elle montre que l’étude des recommandations ne se limite pas à regarder ce qui apparaît publiquement à l’écran.

Pour un chercheur, la différence est décisive. Des contenus publics permettent d’observer une vitrine. Des données d’exposition et de personnalisation peuvent aider à étudier le chemin qui a conduit jusqu’à cette vitrine, avec les précautions nécessaires.

Des données liées à l’exposition

Les exemples prévus par l’acte délégué comprennent les historiques individuels d’exposition et d’engagement, ainsi que les données relatives aux recommandations et celles utilisées pour les personnaliser.

Source

Des catalogues pour éviter la donnée fantôme

Obtenir une base de données ne suffit pas à produire une recherche solide. Il faut savoir ce que représentent les champs, sur quelle période ils portent, comment ils ont été construits et quelles modifications ont affecté leur structure.

L’acte délégué impose aux très grandes plateformes et aux très grands moteurs de recherche de publier des catalogues de données. Ces catalogues décrivent les actifs disponibles, leur structure et leurs métadonnées. Les métadonnées sont les informations qui décrivent les données : leur définition, leur format, leur contexte ou leurs relations avec d’autres éléments.

Les plateformes doivent également fournir aux chercheurs agréés une documentation pertinente. Les sources citées mentionnent notamment des dictionnaires de données, des journaux de modifications et de la documentation architecturale.

Ce point peut sembler administratif. Il est en réalité central pour la reproductibilité. Une recherche reproductible est une recherche dont les autres spécialistes peuvent comprendre les conditions, vérifier les étapes et, lorsque c’est possible, refaire l’analyse avec des données comparables.

Imaginez une équipe qui reçoit un champ nommé « recommendation_score ». Sans dictionnaire, elle ignore peut-être s’il s’agit d’une probabilité, d’un rang, d’un indicateur interne ou d’une valeur transformée. Si la définition a changé au fil du temps, un journal des modifications devient tout aussi important que la colonne elle-même.

La documentation réduit donc un risque discret : celui d’une donnée techniquement accessible mais scientifiquement inutilisable. Elle rapproche l’accès aux données d’un environnement de recherche, plutôt que d’un simple dépôt de fichiers.

Une demande de chercheur, en pratique

L’accès n’est pas une extraction libre. Il suit une procédure motivée et documentée.

  1. Le chercheur présente son projet et justifie les données nécessaires.
  2. La demande est examinée dans le cadre prévu avec les coordinateurs pour les services numériques.
  3. La plateforme décrit les actifs disponibles et les modalités d’accès adaptées à leur sensibilité.
  4. Les données sont transmises ou consultées dans un environnement de traitement sécurisé, selon le cas.

Un accès adapté à la sensibilité des données

Les données de recommandation peuvent concerner des comportements individuels, des historiques d’exposition et des informations utilisées pour personnaliser un service. Leur accès doit donc être organisé sans effacer les contraintes de protection et de sécurité.

Le cadre prévoit plusieurs modalités. Les données peuvent être transmises directement aux chercheurs, ou rendues accessibles dans un environnement de traitement sécurisé. La modalité doit être adaptée à la sensibilité des informations et aux conditions de l’accès.

Un environnement sécurisé ne signifie pas que l’analyse devient impossible. Il peut au contraire permettre de travailler sur des données sensibles dans un cadre mieux contrôlé. L’enjeu est de ne pas confondre sécurité et opacité : les conditions d’accès doivent rester suffisamment documentées pour que le chercheur comprenne ce qu’il peut faire et ce qu’il ne peut pas faire.

Les sources indiquent aussi que les plateformes ne doivent pas imposer de restrictions aux outils analytiques des chercheurs, sauf si ces restrictions figurent explicitement dans les modalités d’accès. Cette précision compte pour la qualité du travail. Une étude ne devrait pas être limitée par des interdictions découvertes après la remise des données.

Pour les plateformes, cela implique un travail d’anticipation. Il faut inventorier les actifs, définir des modalités d’accès, décrire les environnements techniques et traiter les demandes dans un cadre cohérent. Pour les chercheurs, il faut formuler des demandes assez précises pour être évaluées, tout en expliquant pourquoi certaines données sont nécessaires.

La transparence produite par le DSA est donc encadrée, et non absolue. Elle cherche un équilibre entre l’étude indépendante des risques et la protection des informations sensibles. Cet équilibre ne supprime pas les désaccords possibles, mais il rend les conditions de la discussion plus visibles.

Une transparence qui reste encadrée

L’accès aux données non publiques dépend de conditions, de la pertinence de la demande et de mesures de protection. Il ne transforme pas les données des plateformes en ressource ouverte à tous.

Ce que cette chaîne change pour les plateformes

Le principal changement n’est pas l’apparition d’un bouton « expliquer l’algorithme ». C’est la transformation d’une série de pratiques internes en objets documentés, évalués et potentiellement examinés par des tiers.

Une plateforme doit pouvoir relier plusieurs éléments : la conception de son service, les risques systémiques identifiés, les mesures d’atténuation mises en place et les données permettant d’évaluer ces mesures. Si ces éléments restent séparés, la transparence devient une collection de déclarations difficiles à vérifier.

Les recommandations occupent une place particulière dans cette chaîne parce qu’elles organisent l’exposition. Un utilisateur ne voit pas seulement ce qui existe sur la plateforme. Il voit ce que le système lui présente, dans un ordre et avec une personnalisation donnés. Les historiques d’exposition et les données de recommandation permettent justement de rapprocher la promesse de service de l’expérience observée.

Le cadre peut aussi modifier la relation entre les équipes. Les personnes qui conçoivent une fonctionnalité doivent pouvoir expliquer ses données et ses changements. Les équipes chargées de la conformité ont besoin d’inventaires fiables. Les chercheurs externes, eux, ont besoin d’un accès qui ne soit pas seulement théorique.

Il serait toutefois excessif d’en déduire que le DSA rend les recommandations entièrement lisibles. Les sources fournies établissent des obligations et des procédures, pas la réussite automatique de chaque recherche ni la disparition des zones d’incertitude. L’efficacité dépendra notamment de la qualité des catalogues, de la précision de la documentation et de la capacité à obtenir des données pertinentes.

Cette limite n’annule pas l’ambition du dispositif. Elle rappelle plutôt la différence entre créer une possibilité de contrôle et prouver, dans chaque cas, que ce contrôle a produit une réponse suffisante.

Perspective

Le DSA ne traite pas la transparence algorithmique comme une explication ponctuelle destinée à rassurer l’utilisateur. Il la construit comme une chaîne : les plateformes identifient les risques liés à leurs services et à leurs systèmes algorithmiques, prennent des mesures d’atténuation, puis ouvrent un accès encadré aux chercheurs qui peuvent en évaluer les effets.

Cette chaîne ne donne pas nécessairement accès au code, et elle ne transforme pas les données non publiques en ressource libre. Elle fait quelque chose de plus ciblé : elle cherche à rendre observables les choix de personnalisation, les expositions et les résultats qui restent normalement enfermés dans les infrastructures des plateformes.

Pour lire le DSA sans simplification, il faut donc regarder trois niveaux en même temps. Les risques déclarés disent ce que la plateforme reconnaît comme problème. Les mesures d’atténuation montrent comment elle prétend y répondre. Les données et la documentation permettent enfin de vérifier si cette réponse tient face aux faits.

La prochaine étape ne consiste pas à demander une transparence totale, formule aussi séduisante qu’imprécise. Elle consiste à poser des questions vérifiables : quelles données existent, quelles définitions les accompagnent, quelles limites encadrent leur accès et quelles observations permettent d’évaluer les recommandations ? C’est à cette échelle que la transparence devient utile.

Sources

  1. Commission Delegated Regulation (EU) 2025/2050 of 1 July 2025 supplementing Regulation (EU) 2022/2065 of the European Parliament and of the Council by laying down the technical conditions and procedures under which providers of very large online platforms and of very large online search engines are to share data with vetted researchers — European Commission
  2. Acte délégué relatif à l’accès aux données au titre de la législation sur les services numériques — European Commission
  3. FAQs: DSA data access for researchers — Joint Research Centre
  4. About ECAT — European Commission

Équipe Daymain

Partager