Malakoff Humanis entend garantir la transparence des projets de déploiement de l’IA

Accord de méthode relatif au déploiement des systèmes d’intelligence artificielle au sein de l’UES Malakoff Humanis

-Création d’un comité de gouvernance des SIA pour piloter les projets et veilleur aux engagements sociaux, éthiques, environnementaux et réglementaires. Il se compose notamment des représentants de la direction générale, des ressources humaines, des directions technique et juridique et se réuni au moins une fois par trimestre ;

-Classement des SIA selon leur niveau de risque : les systèmes présentant un risque inacceptable sont interdits, ceux à risque élevé font l’objet de contrôles renforcés ;

-Supervision humaine : les résultats produits par les SIA sont soumis à l’appréciation des salariés ;

-Respect du RGPD et encadrement de la durée de conservation des données et recours privilégié à leur anonymisation ou pseudonymisation ;

-Élaboration, après échange avec les organisations syndicales signataires, d’une charte d’usage précisant les bonnes pratiques ainsi que les usages autorisés et prohibés.

Organisation du déploiement en quatre phases successives :

-Phase exploration : étude de faisabilité et réalisation d’un prototype dans un environnement isolé, sans utilisation de données sensibles, afin d’évaluer le potentiel et les limites de la technologie ;

-Phase solidification : premier test du prototype à partir de données réelles, dans un périmètre restreint et sécurisé, afin de vérifier sa pertinence pour le métier et d’identifier les risques éventuels ;

-Phase incubation : expérimentation du système dans des conditions opérationnelles auprès d’un groupe pilote de salariés volontaires et formés. L’expérimentation concerne au maximum 20 % des salariés appelés à concevoir ou à utiliser le système et sa durée est adaptée au niveau de risque identifié ;

-Phase industrialisation : déploiement du système à l’ensemble des salariés concernés, accompagné d’un plan de formation, de procédures opérationnelles et d’un dispositif de supervision humaine ;

-Information du CSE central au cours des trois premières phases par l’intermédiaire de la cartographie des SIA et des fiches projets associées. Avant le passage à la quatrième phase, le CSE central est informé ou consulté selon l’importance des incidences du système sur l’emploi et les conditions de travail ;

-Réalisation systématique d’un retour d’expérience avant toute généralisation, puis six mois après le déploiement à grande échelle pour évaluer les effets du système IA sur l’emploi, les compétences, les conditions de travail et les risques psychosociaux.

-Mise à jour, au moins trimestrielle, de la cartographie des SIA et de fiches présentant notamment leur finalité, les salariés concernés, leur niveau de risque, leurs enjeux et leur calendrier de déploiement ;

-Transmission de ces documents susmentionnées au CSE central et regroupés dans une rubrique dédiée de la BDESE ; 

-Information préalable du CSE central avant la généralisation d’un SIA sans incidence importante sur l’emploi ou les conditions de travail et aussi en cas d’incidence importante sur l’emploi ou les conditions de travail, ou pour tout SIA classé à risque élevé. Dans ces derniers cas, une étude détaillée des impacts, des risques psychosociaux, et des incidences sur l’emploi lui est présentée ;

-Création d’une commission spéciale de suivi des SIA, réunie au moins une fois par trimestre, afin de suivre l’évolution des métiers et des compétences, d’examiner les enjeux éthiques et de partager les retours d’expérience sur les systèmes testés ou déployés ;

-Mise en place d’une commission paritaire chargée d’examiner l’application de l’accord et pouvant recommander l’ouverture d’une négociation en vue de son adaptation ;

-Diffusion annuelle d’un questionnaire portant notamment sur les risques psychosociaux liés aux SIA et prise en compte de ces risques lors de la mise à jour des documents uniques d’évaluation des risques professionnels (DUERP).

-Interdiction de fonder un licenciement économique, individuel ou collectif, sur le seul déploiement d’un SIA ;

-Accompagnement renforcé des salariés dont le métier est en transformation bénéficient d’un accompagnement renforcé dans le cadre de la GEPP ;

-Maintien de l’expertise métier des salariés et attention particulière portée à leur santé mentale et cognitive lors de l’utilisation des SIA.

-Formation obligatoire des salariés avant toute utilisation d’un SIA, portant sur son fonctionnement, ses limites et ses biais potentiels ;

-Possibilité pour tout salarié de signaler un dysfonctionnement, un biais ou un résultat inadapté auprès de son manager et de l’équipe technique compétente ;

-Création d’une école de l’IA proposant des formations modulaires : un niveau commun à tous les salariés, des formations par filière métier et des parcours spécifiques destinés aux équipes chargées de la gouvernance, de la conformité et des technologies de l’IA. Les formations sont organisées prioritairement en présentiel. L’école de l’IA met aussi à disposition régulière d’outils permettant aux salariés d’auto-évaluer leur maîtrise de l’IA et d’identifier leurs éventuels besoins de formation complémentaire.