NYC Local Law 144

Le NYC Local Law 144 (formellement, New York City Local Law 144 de 2021) est une loi municipale sur l’emploi qui interdit aux employeurs et aux agences d’emploi d’utiliser un Automated Employment Decision Tool (AEDT) pour des décisions d’embauche ou de promotion impliquant des candidats ou des employés de New York, à moins que l’outil n’ait été soumis à un bias audit dans les 12 mois précédents, que les résultats de l’audit aient été publiés publiquement, et que les candidats ou employés concernés aient été notifiés. Le New York City Department of Consumer and Worker Protection (NYC DCWP) a adopté les règles d’application finales le 6 avril 2023 (codifiées au Titre 6 des Règles de la Ville de New York). L’enforcement a commencé le 5 juillet 2023.

La loi est la première réglementation municipale majeure aux États-Unis ciblant spécifiquement les outils d’IA dans l’embauche. Son framework d’audit-et-divulgation — tester le disparate impact, publier les résultats, informer les candidats — a influencé la législation en Illinois, en Californie et la guidance fédérale de l’EEOC, faisant de la conformité LL144 un template utile pour la gouvernance de l’IA dans l’embauche dans plusieurs juridictions.

Qu’est-ce qu’un AEDT sous le NYC Local Law 144 ?

La loi définit un AEDT comme tout processus computationnel, dérivé du machine learning, de la modélisation statistique, de l’analyse de données, ou de l’intelligence artificielle, qui produit un output simplifié — un score, une classification, une recommandation ou un classement — utilisé pour assister substantiellement ou remplacer la prise de décision discrétionnaire dans :

• Le screening de candidats pour un emploi, ou
• Le screening d’employés pour une promotion.

Un outil satisfait au seuil « assister substantiellement ou remplacer » s’il sert de base exclusive à une décision, fait office de facteur primaire parmi plusieurs inputs, ou son output a la capacité de supplanter des conclusions tirées par un humain. Le test déterminant n’est pas de savoir si la décision est qualifiée de « humaine » — mais si le décideur humain s’appuie substantiellement sur l’output IA.

Ce qui n’est PAS un AEDT en vertu de la Final Rule du DCWP : les outils qui se contentent de transcrire l’audio des entretiens, de traduire des documents, de planifier des entretiens, d’envoyer des séquences d’emails automatisées, de filtrer les spams, d’effectuer des calculs sur tableur, ou d’autre manière de capturer ou d’acheminer des données sans scorer ni recommander.

Consultez votre conseil juridique pour la classification d’outils spécifiques lorsque la documentation du fournisseur n’indique pas clairement si l’outil produit un output simplifié qui assiste substantiellement les décisions d’embauche.

Qui est concerné

La loi s’applique à :

• Les employeurs — toute personne ou entité exerçant des activités à New York City qui utilise un AEDT pour screener des candidats ou des employés. Aucun effectif minimum.
• Les agences d’emploi — les agences opérant à NYC qui utilisent des AEDTs pour screener des candidats en vue d’un placement.
• Les candidats et employés — toute personne résidant à New York City, ou qui est screenée pour un poste situé à New York City, ou qui est considérée pour une promotion dans un rôle NYC.

La loi n’exige pas que l’employeur soit physiquement établi à NYC. Un employeur dont le siège est ailleurs et qui utilise un AEDT pour screener des candidats résidant à NYC pour tout poste est concerné.

Les trois exigences fondamentales

1. Bias audit annuel

Avant d’utiliser un AEDT — puis chaque année — l’employeur doit mandater un bias audit auprès d’un auditeur indépendant. L’indépendance signifie :

• Aucune relation financière avec l’employeur ou avec le fournisseur de l’AEDT.
• Aucune participation antérieure au développement, à l’utilisation ou à la distribution de l’AEDT spécifique audité.

L’audit doit calculer, pour chaque catégorie de race/ethnicité et chaque catégorie de sexe (et, lorsque les données le permettent, pour les combinaisons intersectionnelles) :

• Le taux de sélection — la proportion de candidats dans cette catégorie ayant obtenu un résultat positif (sélectionnés pour l’étape suivante, recommandés pour l’embauche, scorés au-dessus d’un seuil).
• Le ratio d’impact — le taux de sélection pour chaque catégorie divisé par le taux de sélection de la catégorie la plus sélectionnée. Un ratio d’impact inférieur à 0,8 (la « règle des quatre cinquièmes » de l’EEOC) indique un potentiel adverse impact.

L’audit doit également reporter le nombre d’individus dont la race/ethnicité et le sexe sont inconnus, et donc exclus des calculs.

Audits fournis par le fournisseur : Les règles du DCWP autorisent un fournisseur d’AEDT à réaliser ou à commander le bias audit au nom de plusieurs employeurs utilisant le même outil. Un employeur peut s’appuyer sur un audit fourni par le fournisseur — mais seulement si l’audit couvre la version et la configuration spécifiques de l’outil tel que déployé par cet employeur, et a été réalisé par un auditeur genuinement indépendant.

2. Publication publique des résultats de l’audit

Avant d’utiliser l’AEDT pour des décisions d’embauche à NYC, et dans les 30 jours suivant chaque nouvel audit annuel, l’employeur doit publier sur son site web public :

• Un résumé des résultats du bias audit, incluant les taux de sélection et les ratios d’impact pour chaque catégorie.
• La date à laquelle l’employeur a commencé à utiliser l’AEDT pour la première fois.
• La date du bias audit le plus récent.

La publication doit rester publiquement accessible pendant au moins six mois après la dernière utilisation de l’AEDT par l’employeur (selon le final rule du DCWP). Cela se distingue de la conservation des dossiers d’audit : la documentation d’audit sous-jacente doit être conservée pendant trois ans (voir le workflow de compliance plus bas).

3. Notification des candidats et employés

Les employeurs doivent notifier les candidats au moins 10 jours ouvrables avant l’utilisation de l’AEDT pour les évaluer. La notification doit inclure :

• Une déclaration indiquant qu’un AEDT sera utilisé et qu’il assistera substantiellement ou remplacera la prise de décision discrétionnaire dans le processus d’embauche.
• Les qualifications et caractéristiques spécifiques du poste que l’outil évaluera.
• Les types de données collectées par l’outil, leurs sources, et la durée de conservation des données.

De plus, les candidats doivent être informés qu’ils peuvent demander un processus de sélection alternatif ou un aménagement raisonnable à la place de l’évaluation par AEDT (lorsqu’une alternative existe).

Comment délivrer l’avis : L’avis peut être fourni dans l’offre d’emploi, sur le site carrières de l’employeur à un endroit clair et visible, ou par communication écrite directe (email ou courrier) à chaque candidat concerné.

Implication de calendrier : Si un AEDT est utilisé pour screener des candidatures après leur dépôt, la période de préavis de 10 jours ouvrables signifie que l’avis doit figurer dans l’offre d’emploi originale ou être envoyé avant que les candidats ne postulent.

Enforcement et pénalités

Le DCWP est l’agence d’enforcement. L’enforcement a commencé le 5 juillet 2023. Les pénalités sont :

• Première infraction : jusqu’à 500 $.
• Chaque infraction suivante : 500–1.500 $ par infraction.

Chaque jour de non-conformité constitue une infraction distincte.

Ce que LL144 n’exige PAS

Idées reçues courantes :

• Il n’interdit pas l’IA dans l’embauche. Il exige des audits et une divulgation, pas une interruption.
• Il n’exige pas que l’AEDT ne produise aucun disparate impact. Il exige que l’audit soit réalisé, que les résultats soient publiés et que les candidats soient notifiés.
• Il ne fixe pas de seuil de disparate impact. Le ratio des quatre cinquièmes (80 %) est le benchmark analytique de longue date de l’EEOC ; LL144 adopte la même méthodologie mais ne fixe pas de seuil explicite de réussite/échec.
• Il ne s’applique pas à tous les outils automatisés. Les logiciels de planification, le routage de workflow ATS, et l’automatisation sans scoring sont en dehors du champ d’application de la loi.

Workflow de conformité pour les équipes recruiting

1. Inventorier les outils. Lister chaque outil IA utilisé dans le pipeline sourcing-to-hire et classer chacun comme AEDT ou non-AEDT.
2. Obtenir ou commander des bias audits. Pour chaque AEDT : obtenir l’audit du fournisseur (vérifier l’indépendance et la correspondance de configuration) ou mandater un audit indépendant.
3. Publier les résultats publiquement. Avant d’utiliser tout AEDT pour des candidats à NYC, publier le résumé de l’audit sur la page carrières ou le site web public.
4. Ajouter la notification dans les offres d’emploi. Pour chaque poste où un AEDT sera utilisé, inclure la notification requise dans l’offre d’emploi.
5. Établir un calendrier d’audit annuel. Les audits doivent être répétés chaque année.
6. Maintenir les dossiers. La documentation d’audit doit être conservée pendant trois ans.

Le paysage réglementaire plus large

LL144 est un nœud dans un framework réglementaire en expansion :

• Illinois AI Video Interview Act (AIVIA) : exige divulgation et consentement avant les entretiens vidéo analysés par IA pour les candidats en Illinois.
• Guidance fédérale EEOC (2023) : le Titre VII s’applique aux outils IA qui produisent un disparate impact ; les employeurs restent responsables des résultats discriminatoires quel que soit l’opérateur du tool.
• EU AI Act : classe les outils IA utilisés dans les décisions d’emploi comme à haut risque, exigeant une évaluation de conformité, un enregistrement et un monitoring continu. Les obligations à haut risque pour l’emploi devaient initialement s’appliquer à partir d’août 2026, mais l’accord politique du « Digital Omnibus » de l’UE conclu le 7 mai 2026 les a provisoirement reportées au 2 décembre 2027 (sous réserve de l’adoption formelle par le Conseil et le Parlement).

Consultez votre conseil juridique pour une analyse spécifique à chaque juridiction.

Erreurs courantes

Utiliser un audit fournisseur couvrant la mauvaise configuration. L’audit doit refléter l’outil réel en deployment réel, pas une version générique du produit.

Notification au mauvais endroit. Une notification sur une page de politique de confidentialité générale ne constitue pas l’avis préalable requis spécifique à l’AEDT. Elle doit figurer dans l’offre d’emploi ou être envoyée directement à chaque candidat avant l’exécution de l’outil.

Considérer l’audit de la première année comme permanent. La loi exige un re-audit annuel.

Supposer qu’aucun impact signifie aucune exposition. Un audit montrant des ratios d’impact supérieurs à 0,8 pour tous les groupes ne signifie pas que l’outil est à l’abri de toute responsabilité juridique au titre du Titre VII ou d’une loi d’État analogue.

Contenus associés

• Politique IA pour les équipes recruiting — le framework interne qui opérationnalise la conformité LL144
• Biais dans le screening IA — comment le biais entre dans les outils de hiring IA et comment auditer
• Screening de CV par IA — la catégorie d’outil qui déclenche le plus souvent les obligations AEDT
• Eightfold — plateforme de talent intelligence avec documentation de bias audit intégrée
• HireVue — plateforme d’entretiens vidéo ayant publié des résultats de bias audit LL144