Manifeste du Projet Dial-IA
Une urgence à agir
La période actuelle est marquée par une montée en puissance sans précédent de l’IA dans le débat public, en lien avec la prise de conscience que toutes les entreprises, toutes les organisations, toutes les activités, de la sphère personnelle comme professionnelle, y compris des activités que l’on pensait jusque-là préservées, sont potentiellement impactées par les systèmes d’intelligence artificielle. L’intelligence artificielle est aussi porteuse de nombreuses craintes au travail, au premier rang desquelles la remise en cause ou la disparition du travail humain et de nombre d’emplois. Les moyens existent pour que se développent dans le monde du travail des systèmes d’intelligence artificiels vertueux dans leurs finalités comme leurs modalités, humainement respectueux des droits de la protection des données, des droits fondamentaux et garantissant que l’humain prend toujours la décision
Des lignes de conduite incontournables
Ces moyens passent par un juste équilibre entre, d’un côté, les actions visant à encourager ces technologies et, de l’autre, celles à même de créer les conditions de leur fiabilité et de leur finalité via la participation de toutes les différentes parties prenantes de la mise en place de ces systèmes. Les porteurs du projet Dial-IA sont convaincus du rôle majeur que peut jouer le dialogue au niveau interprofessionnel comme dans les entreprises et les administrations, entre les parties prenantes de l’IA, avec les usagers, pour asseoir et garantir la confiance. Il est urgent d’équiper les acteurs pour les aider à se remettre en capacité de dialoguer et créer les conditions pour réussir ensemble ce nouveau virage de la transformation numérique des entreprises et des organisations. Les voies pour y parvenir existent. Il est urgent de partir d’un état des lieux réel des activités déjà concernées pour en évaluer les transformations.
Une IA dont la création de valeur bénéficie à l’ensemble des acteurs économiques et sociaux et au progrès social et sociétal
La création de valeur, tant économique que sociétale, permise par l’IA est potentiellement de grande ampleur. Pour être pleinement effective, cette création de valeur doit prendre en compte l’impact des changements induits par l’IA sur le travail. Car c’est d’abord au travers de la transformation des activités, des qualifications, des organisations, des manières de travailler que cette valeur se crée dans les organisations. La part conséquente des gains de productivité permise par l’IA doit garantir un partage équitable de ces avantages entre travail et capital.
Pour l’heure, en ce qui concerne le partage de cette valeur créée, ce sont surtout les fournisseurs d’IA et ceux qui collectent et valorisent les données qui en tirent le bénéfice économique. Le risque est également fort de voir cette valeur captée par quelques acteurs dominants. Les moyens des utilisateurs, notamment les TPE/PME, que ce soit au niveau d’un secteur ou d’une filière, pour exploiter et tirer tous les bénéfices de l’IA, sont très inégaux. Il en va de même dans l’administration.
Il est temps de construire le partage de la valeur créée dans les entreprises et organisations qui recourent à l’IA. Il est indispensable de réduire et limiter les asymétries entre les acteurs et les parties prenantes de la transformation permise par l’IA.
L’intelligence artificielle, comme toute autre technologie, ne peut avoir comme seule finalité la rationalisation économique. L’IA ne doit pas être cantonnée à des stratégies visant uniquement à la productivité ou la réduction des coûts. Il faut s’assurer de règles loyales d’affaire. Il faut pouvoir garantir qu’elle pourra contribuer à produire des solutions technologiques au service de l’intérêt général. Il faut permettre l’émergence de produits alternatifs, respectueux des droits de la protection des données, des droits fondamentaux et d’une déontologie garantissant que l’humain prend toujours la décision in fine.
Une IA qui est au service des organisations du travail
Une mise en œuvre vertueuse de l’intelligence artificielle ne peut pas se faire sans les travailleurs.
Les SIA (Systèmes d’Intelligence Artificielle) sont développés à partir du travail prescrit, des représentations du travail qui ne prennent pas en compte les nuances, les subtilités, la complexité qui font l’intérêt du travail réel et lui donnent du sens. Réduire le travail réel en données exploitables par des SIA les rendent en quelque sorte aveugles. Le risque est fort que ces SIA deviennent alors des contraintes supplémentaires pour les travailleurs pouvant contribuer à la perte de sens, voire conduire à l’obsolescence humaine.
Le solutionnisme et le déterminisme technologique conduisent à penser l’IA du point de vue de l’adaptation des organisations à la technologie. Les impacts organisationnels de l’IA, sur les conditions de travail, sont trop souvent sous-estimés, quand ils ne sont pas ignorés. L’organisation du travail est pourtant un facteur stratégique de performance économique et sociale. L’IA donne des possibilités de recentrer l’activité humaine sur des taches valorisantes en réduisant les tâches répétitives et doit constituer un levier important de valorisation de la contribution humaine au travail.
C’est de l’organisation qu’il faut partir pour s’interroger sur les conditions que l’outil doit remplir plutôt que l’inverse : quid des effets directs et indirects, à court et long termes ?
Des potentialités sous-estimées de dialogue à mobiliser dans les entreprises et les administrations
Force est de constater que la place accordée aujourd’hui au dialogue social est faible.
C’est le cas dans la régulation législative européenne en cours de construction : le dialogue social est quasi absent du règlement sur l’IA, qui renvoie à un prochain acte législatif sur le management algorithmique. Aucune incitation à la déclinaison par accord collectif de la protection des données personnelles dans le cadre du travail n’existe, alors même que l’article 88 du RGPD le prévoit explicitement, au même niveau qu’une intervention législative.
Au niveau français, le dialogue social est quasi inexistant avec les pouvoirs publics comme en entreprise et dans l’administration.
Des outils juridiques de dialogue social existent pourtant, qui pourraient faire de l’IA un objet de dialogue social, tout particulièrement dans le cadre des moments de l’information consultation des représentants du personnel. Malheureusement ils ne sont pas mobilisés, par manque d’un socle commun de compréhension et de motivation des directions et des représentants du personnel, mais aussi, trop souvent, par manque de maîtrise des technologies qui vont être mises en place par ceux en responsabilité de les introduire, que ce soit dans le privé ou le public. Il faudra veiller que les organismes de contrôle aient les moyens adéquates à la hauteur de ces enjeux.
La stratégie IA est rarement explicitement abordée dans les orientations stratégiques. Ses impacts sont peu évoqués dans la gestion prévisionnelle de l’emploi et des compétences. Le seul moment où peut, potentiellement se dérouler une discussion précise sur le sujet de l’IA est celui de l’introduction des SIA au travers de l’information consultation des représentants du personnel. Les représentants du personnel sont trop rarement associés aux réflexions structurelles que peut engendrer le recours à de tels outils.
Pour asseoir la fiabilité, assurer la transparence et l’acceptabilité des SIA, accompagner l’arrivée de l’IA dans les entreprises et administrations, le dialogue social a un rôle crucial à jouer. Le dialogue social est primordial pour que se déploient que des usages profitables de l’IA, créateurs de valeur, intégrés dans les contextes de travail, préservant le sens du travail, la santé des travailleurs, respectant les droits et libertés fondamentales. Comme le souligne l’OCDE, le dialogue social est un levier pour favoriser une transition vers l’IA bénéfique à l’ensemble des acteurs économiques et sociaux.
Initier un dialogue dans le contexte de recours à un SIA sera pertinent aux conditions suivantes :
- agir sur la prise de conscience qu’il est nécessaire de comprendre et appréhender les impacts des SIA et des algorithmes sur les compétences, l’emploi, l’organisation, à tous les niveaux : salariés, dont les manageurs, direction, entrepreneurs, usagers, citoyens, etc.
- oser le dialogue et l’adapter aux spécificités de l’IA. Il faut prendre en compte la temporalité propre des SIA, leur « cycle de vie », sortir d’une approche « statique » du dialogue social, lui donner la possibilité d’agir avant, pendant, et après l’introduction de l’IA dans l’entreprise. Il faut se donner la possibilité de « retour en arrière », en entreprise, dans une organisation, dans le secteur public.
L’accord-cadre des partenaires sociaux européens signé en juin 2020 sur la numérisation ouvre la voie pour de telles perspectives. Il promeut un processus de co-construction itératif, dans une logique d’anticipation et d’apprentissage collectif. L’accord vise à stimuler un dialogue social effectif autour de la transformation numérique des organisations. Il définit pour ce faire, à la manière d’une boite à outils, une méthodologie de dialogue déclinable à différents niveaux.
Le défi est de parvenir à une véritable appropriation collective de ces enjeux, ce qui nécessitera des moyens spécifiques au dialogue social.C’est tout l’objet du projet Dial-IA qui vise à élaborer un référentiel partagé de déclinaison de cet accord cadre qui pourraient notamment proposerune boîte à outil à destination des représentants du personnel.
Un dialogue entre parties prenantes économiques est à impulser
L’utilisation des données, la transparence des algorithmes et plus globalement de l’IA, impliquent une multiplicité de parties prenantes : fournisseurs, prestataires, clients, usagers, entreprises, plateformes, etc. Aujourd’hui on constate que le dialogue entre ces parties prenantes est réduit à une relation strictement commerciale ou de condition de délivrance du service malgré les conséquences financières, organisationnelles et d’accès aux droits que l’outil peut engendrer.
Un nouveau type de dialogue, organisé entre parties-prenantes, peut contribuer à rééquilibrer les forces, que ce soit au sein de l’entreprise, l’administration, entre l’entreprise ou une administration et un éditeur, au sein d’une filière économique, entre par exemple les petites et les grandes entreprises, donneurs d’ordres et sous-traitants.
Il est important que la dimension travail soit systématiquement prise en compte dans les réflexions stratégiques sur l’IA et que des représentants des travailleurs soient présents dans ce dialogue des parties prenantes.
Les porteurs du projet Dial-IA sont convaincus qu’un dialogue entre l’ensemble des parties concernées permet de mieux prendre conscience des enjeux de l’IA et d’y apporter des réponses dont le bénéfice est partagé par tous.
Le projet Dial-IA (“Dialogue IA”) est coordonnée par l’IRES. Il a été piloté en partenariat avec quatre des organisations syndicales membres de l’Institut : la CFDT, la CFE-CGC, FO Cadres, l’UGICT CGT. Ce manifeste est le fruit commun du travail de ces quatre organisations syndicales, il a également été signé par la CFTC. Le projet a été cofinancé par l’ANACT. Il vise à contribuer à déployer un cadre méthodologique partagé pour faire du développement du dialogue social technologique au travail et de la déclinaison de l’accord cadre européen de 2020 sur la numérisation du travail un levier opérationnel de la transformation numérique.
The manifesto in English
For a social dialogue serving the proper uses of AI and a new stage of social progress in companies and administrations
Dial-IA Project Manifesto
An Urgent Call to Action
The current era is marked by an unprecedented rise of artificial intelligence (AI) in public discourse. There’s a growing awareness that all businesses, organizations, and activities—both personal and professional, including those previously thought to be exempt—are potentially impacted by AI systems. AI also brings numerous workplace concerns, chief among them being the questioning or disappearance of human labor and many jobs. However, means exist to develop virtuous AI systems in the workplace that are respectful of data protection rights, fundamental rights, and ensure that humans always make the final decision.
Essential Guidelines
Achieving this balance requires a fair equilibrium between actions aimed at encouraging these technologies and those capable of creating conditions for their reliability and purpose through the participation of all stakeholders involved in implementing these systems. The participants of the Dial-IA project are convinced of the major role that dialogue, both at the interprofessional level and within companies and administrations, between AI stakeholders and users, can play in establishing and guaranteeing trust. It is urgent to equip actors to help them regain the capacity to dialogue and create conditions to successfully navigate this new phase of digital transformation in businesses and organizations. The means to achieve this exist. It is urgent to start from a real assessment of activities already concerned to evaluate their transformations.
AI Creating Value Benefiting All Economic and Social Actors and Social Progress
The value creation, both economic and societal, enabled by AI is potentially vast. To be fully effective, this value creation must consider the impact of AI-induced changes on work. Indeed, it is primarily through the transformation of activities, skills, organizations, and ways of working that this value is created within organizations. A significant portion of the productivity gains enabled by AI must ensure a fair sharing of these benefits between labor and capital.
Currently, regarding the sharing of this created value, it is mainly AI providers and those who collect and monetize data who reap the economic benefits. There is also a strong risk of this value being captured by a few dominant players. The means available to users, especially SMEs, whether at the sector or industry level, to exploit and fully benefit from AI, are very unequal. The same applies to the administration.
It is time to construct the sharing of the created value within companies and organizations that use AI. It is essential to reduce and limit asymmetries between actors and stakeholders in the transformation enabled by AI.
Artificial intelligence, like any other technology, cannot have economic rationalization as its sole purpose. AI should not be confined to strategies solely aimed at productivity or cost reduction. Fair business rules must be ensured. It must be guaranteed that it can contribute to producing technological solutions serving the general interest. The emergence of alternative products that respect data protection rights, fundamental rights, and an ethics ensuring that humans always make the final decision must be allowed.
AI Serving Work Organizations
A virtuous implementation of artificial intelligence cannot occur without workers.
AI systems are developed based on prescribed work, representations of work that do not take into account the nuances, subtleties, and complexities that make real work interesting and meaningful. Reducing real work to data exploitable by AI systems makes them somewhat blind. There is a strong risk that these AI systems then become additional constraints for workers, potentially contributing to a loss of meaning, or even leading to human obsolescence.
Solutionism and technological determinism lead to thinking about AI from the perspective of adapting organizations to technology. The organizational impacts of AI on working conditions are too often underestimated, if not ignored. Yet, work organization is a strategic factor for economic and social performance. AI offers possibilities to refocus human activity on rewarding tasks by reducing repetitive tasks and should constitute an important lever for enhancing human contribution to work.
It is from the organization that we must start to question the conditions that the tool must meet, rather than the reverse: what are the direct and indirect effects, in the short and long term?
Underestimated Potential for Dialogue to Mobilize in Companies and Administrations
It is evident that the current emphasis on social dialogue is minimal.
This is apparent in the ongoing development of European legislative regulation: social dialogue is almost absent from the AI regulation, which defers to a forthcoming legislative act on algorithmic management. There is no encouragement for the implementation of personal data protection through collective agreements in the workplace, even though Article 88 of the GDPR explicitly provides for it, on par with legislative intervention.
At the French level, social dialogue is virtually nonexistent with public authorities, as well as within companies and administrations.
Yet, legal tools for social dialogue exist that could make AI a subject of social dialogue, particularly during the information and consultation phases with employee representatives. Unfortunately, they are not utilized due to a lack of common understanding and motivation among management and employee representatives, and too often, due to a lack of mastery of the technologies being implemented by those responsible for introducing them, whether in the private or public sector. It is essential to ensure that regulatory bodies have adequate resources commensurate with these challenges.
AI strategy is rarely explicitly addressed in strategic orientations. Its impacts are seldom discussed in workforce planning and skills management. The only potential opportunity for a detailed discussion on AI is during the introduction of AI systems through the information and consultation of employee representatives. Employee representatives are too rarely involved in the structural reflections that the use of such tools can generate.
To establish reliability, ensure transparency and acceptability of AI systems, and support the introduction of AI in companies and administrations, social dialogue has a crucial role to play. Social dialogue is essential for the deployment of beneficial AI uses that create value, are integrated into work contexts, preserve the meaning of work, protect workers’ health, and respect fundamental rights and freedoms. As highlighted by the OECD, social dialogue is a lever to promote a transition towards AI that benefits all economic and social actors.
Initiating a dialogue in the context of using an AI system will be pertinent under the following conditions:
- Raising awareness of the necessity to understand and apprehend the impacts of AI systems and algorithms on skills, employment, and organization at all levels: employees, including managers, management, entrepreneurs, users, citizens, etc.
- Embracing dialogue and adapting it to the specifics of AI. It is necessary to consider the unique temporality of AI systems, their “life cycle,” move away from a “static” approach to social dialogue, and allow it to act before, during, and after the introduction of AI in the company. It is important to allow for the possibility of “going back” in a company, organization, or public sector.
The European social partners’ framework agreement signed in June 2020 on digitalization paves the way for such perspectives. It promotes an iterative co-construction process, in a logic of anticipation and collective learning. The agreement aims to stimulate effective social dialogue around the digital transformation of organizations. To this end, it defines a methodology for dialogue that can be adapted at different levels.
The challenge is to achieve a true collective appropriation of these issues, which will require specific means for social dialogue. This is the objective of the Dial-IA project, which aims to develop a shared framework for implementing this framework agreement, notably by proposing a toolbox for employee representatives.
A dialogue between economic stakeholders needs to be initiated
The use of data, the transparency of algorithms, and more broadly of AI, involve a multitude of stakeholders: suppliers, service providers, clients, users, companies, platforms, etc. Today, it is observed that the dialogue between these stakeholders is reduced to a strictly commercial relationship or service delivery conditions, despite the financial, organizational, and access to rights consequences that the tool can generate.
A new type of dialogue, organized among stakeholders, can help rebalance forces, whether within the company, administration, between a company or administration and a publisher, within an economic sector, between, for example, small and large companies, clients, and subcontractors.
It is important that the work dimension is systematically taken into account in strategic reflections on AI and that workers’ representatives are present in this stakeholder dialogue.
The promoters of the Dial-IA project are convinced that a dialogue among all concerned parties allows for a better understanding of AI issues and provides responses whose benefits are shared by all.
The Dial-IA (Dialogue on IA) project is coordinated by IRES. It was led in partnership with four of the Institute’s member trade union organizations: CFDT, CFE-CGC, FO Cadres, UGICT CGT. This manifesto is the joint result of the work of these four trade union organizations; it has also been signed by the CFTC. The project was co-financed by ANACT. It aims to contribute to deploying a shared methodological framework to make the development of technological social dialogue at work and the implementation of the 2020 European framework agreement on the digitalization of work an operational lever for digital transformation.