À mesure que l’intelligence artificielle se généralisera et que ses performances s’amélioreront, elle aura probablement des conséquences importantes à long terme pour les emplois, les inégalités, les organisations et la concurrence. La réglementation peut être utilisée pour faire face à ses risques et possibilités, mais on sait peu de choses sur la manière dont la réglementation liée à l’IA pourrait affecter le comportement des entreprises. Cette colonne examine l’impact des réglementations réelles et potentielles de l’IA sur les chefs d’entreprise à travers une expérience d’enquête en ligne randomisée. Il constate que l’exposition aux informations sur la réglementation diminue l’intention déclarée des gestionnaires d’adopter les technologies d’IA dans les processus commerciaux de leur entreprise.
Au cours de la dernière décennie, les technologies d’intelligence artificielle (IA) se sont généralisées et leurs performances se sont améliorées. Les décideurs politiques, les universitaires et les défenseurs ont soulevé des préoccupations concernant les biais algorithmiques, la confidentialité des données et la transparence, questions qui ont de plus en plus retenu l’attention, et ont renouvelé les appels à une politique visant à faire face aux conséquences du changement technologique (Frank et al. 2019).
À mesure que l’IA continue de s’améliorer et de se diffuser, elle aura probablement d’importantes conséquences à long terme pour les emplois, les inégalités, les organisations et la concurrence. Ces développements peuvent stimuler l’intérêt pour la réglementation en tant que moyen potentiel de faire face aux risques et aux possibilités de l’IA. Pourtant, on sait très peu de choses sur la manière dont différents types de réglementations liées à l’IA – ou même la perspective d’une réglementation – pourraient affecter le comportement des entreprises.
L’IA est déjà implicitement réglementée par des doctrines de common law telles que la responsabilité délictuelle et le droit des contrats, ainsi que par des obligations légales et réglementaires imposées aux organisations telles que les normes émergentes régissant les véhicules autonomes (Cuéllar 2019).
Alors que les technologies d’IA se diffusent rapidement et ont de vastes conséquences sociales et économiques, les décideurs politiques et les agences fédérales et étatiques envisagent de nouvelles façons de réglementer l’IA. Il s’agit notamment de propositions générales de réglementation générale de l’IA telles que l’Algorithmic Accountability Act aux États-Unis, qui a été présenté à la Chambre des représentants le 10 avril 2019. Les réglementations des États incluent la California Consumer Privacy Act, qui entre en vigueur à partir de janvier 2020. Des réglementations spécifiques aux États-Unis sont également en cours d’élaboration par des organismes de réglementation fédéraux tels que la Food and Drug Administration, la National Highway Traffic and Safety Administration et la Federal Trade Commission.
L’expérience du sondage en ligne aléatoire
Dans un article récent, nous examinons l’impact de ces réglementations réelles et potentielles sur l’IA sur les chefs d’entreprise (Lee et al. 2019). En particulier, nous évaluons la probabilité que les managers adoptent les technologies d’IA et modifient leurs stratégies commerciales liées à l’IA lorsqu’ils sont invités à réfléchir à la réglementation de l’IA.
Nous menons une expérience d’enquête en ligne randomisée où le groupe de traitement est informé des principales caractéristiques des différents traitements réglementaires. Plus précisément, nous exposons aléatoirement les gestionnaires à l’un des traitements suivants :
un traitement réglementaire général de l’IA qui invoque la loi sur la responsabilité algorithmique ;
les traitements réglementaires spécifiques à l’industrie qui invoquent les agences compétentes, à savoir la Food and Drug Administration (pour les soins de santé, les produits pharmaceutiques et la biotechnologie), la National Highway Traffic and Safety Administration (pour l’automobile, le transport et la distribution) et la Federal Trade Commission (pour les vente au détail et en gros);
un traitement qui rappelle aux managers que l’adoption de l’IA dans les entreprises est soumise à la common law et aux exigences légales existantes telles que le droit de la responsabilité délictuelle, le droit du travail et le droit des droits civils ; et
un traitement de la réglementation sur la confidentialité des données qui invoque le California Consumer Privacy Act.
Nous étudions comment ces réglementations variables affectent la prise de décision des managers, et comment les managers révisent leurs stratégies commerciales face à une nouvelle réglementation.
Nos résultats indiquent que l’exposition aux informations sur la réglementation diminue l’intention déclarée des managers d’adopter les technologies d’IA dans les processus métier de l’entreprise (Figure 1).
Nous constatons que l’exposition à des informations sur la réglementation générale de l’IA, telle que la loi sur la responsabilité algorithmique, réduit d’environ 16 % le nombre de processus métier dans lesquels les responsables seraient disposés à utiliser l’IA. Nous constatons également que l’exposition aux informations sur la réglementation de l’IA augmente considérablement les dépenses consacrées à l’élaboration d’une stratégie d’IA (Figure 2).
Cet impact est le plus fort pour le traitement de la « réglementation générale de l’IA », qui augmente l’allocation aux objectifs de la stratégie d’IA de trois points de pourcentage. L’augmentation du budget pour le développement de la stratégie commerciale d’IA est principalement compensée par une diminution du budget pour la formation des employés actuels sur la façon de coder et d’utiliser la technologie d’IA et l’achat de packages d’IA auprès de fournisseurs externes.
De plus, l’exposition aux informations sur la réglementation de l’IA augmente considérablement l’intention d’embaucher plus de gestionnaires (figure 3). En d’autres termes, rendre la perspective d’une réglementation de l’IA plus saillante semble forcer les entreprises à « réfléchir », les incitant à faire état d’une plus grande volonté de dépenser davantage pour élaborer des stratégies, mais au prix du développement du capital humain interne.
L’exposition aux informations sur la réglementation de l’IA augmente également l’importance que les gestionnaires accordent à diverses questions éthiques lors de l’adoption de l’IA dans leur entreprise (Figure 4). Chaque traitement réglementaire augmente l’importance que les gestionnaires accordent aux problèmes de sécurité et d’accident liés aux technologies d’IA. En particulier, le traitement de la « réglementation existante sur l’IA et la réglementation sur la confidentialité des données » augmente considérablement la perception des gestionnaires quant à l’importance de la confidentialité et de la sécurité des données. La réglementation spécifique à l’agence augmente également la perception des managers sur l’importance des préjugés et de la discrimination, ainsi que sur la transparence et l’explicabilité.
Effets hétérogènes selon l’industrie et la taille de l’entreprise
Nous constatons une hétérogénéité significative dans les effets des informations sur la réglementation de l’IA par secteur et par taille d’entreprise. La réglementation réduit l’adoption de l’IA dans les secteurs de la santé et de la vente au détail, mais pas dans le secteur des transports. De plus, c’est principalement dans le secteur des transports que la réglementation de l’IA se traduit par une allocation budgétaire plus élevée au développement de stratégies d’IA.
En termes d’activités d’innovation, nous constatons que la réglementation de l’IA augmente l’intention des entreprises de déposer des brevets dans le secteur de la santé, mais la diminue dans le secteur de la vente au détail et en gros. Cela est probablement dû au fait que les brevets sont un élément vital de l’industrie de la santé (c’est-à-dire la découverte de médicaments), tandis que l’activité principale du commerce de détail dépend beaucoup moins des brevets en tant que stratégie principale d’exploitation.
L’impact négatif des informations sur la réglementation de l’IA sur l’adoption de l’IA est plus important pour les petites entreprises, que nous définissons comme celles dont le chiffre d’affaires est inférieur à 10 millions de dollars. De plus, ces petites entreprises sont celles qui augmentent leur allocation budgétaire au développement de stratégies d’IA et embauchent plus de gestionnaires en réponse aux nouvelles réglementations. Cependant, les grandes entreprises réagissent au traitement de la « réglementation existante sur l’IA », qui invoque la pertinence du droit de la responsabilité délictuelle et des protections des droits civils. Les managers de grandes entreprises exposés à ce traitement augmentent leur sensibilisation aux questions éthiques, augmentent la part du budget pour développer des stratégies d’IA et prévoient d’embaucher plus de managers.
Ces résultats mettent en évidence les compromis potentiels entre la réglementation et la diffusion et l’innovation des technologies d’IA dans les entreprises et signalent des implications importantes pour les régulateurs et les décideurs.
Principales implications pour la réglementation de l’IA
Nos résultats suggèrent plusieurs implications potentielles pour la conception et l’analyse de la réglementation liée à l’IA. Tout d’abord, dans la mesure du possible, les régulateurs doivent adapter les réglementations aux besoins et aux préoccupations des industries spécifiques. Bien que les décideurs trouvent parfois des raisons convaincantes d’adopter des réponses réglementaires générales à des problèmes majeurs tels que la protection de l’environnement et la sécurité au travail, une réglementation transversale de l’IA telle que la proposition de loi sur la responsabilité algorithmique peut avoir des effets extrêmement complexes et rendre plus difficile la prise en compte de caractéristiques sectorielles potentiellement importantes. Compte.
Deuxièmement, les décideurs feront un meilleur travail de conception et de communication des exigences réglementaires s’ils restent clairement concentrés sur les objectifs réglementaires. Compte tenu de l’impact du secteur industriel et de la taille de l’entreprise sur les réponses, les décideurs feraient bien d’aborder méticuleusement la réglementation de l’IA dans différents cas d’utilisation technologiques et spécifiques à l’industrie. Bien que l’importance de certaines exigences légales et objectifs politiques – tels que la réduction des biais inadmissibles dans les algorithmes et l’amélioration de la confidentialité et de la sécurité des données – puisse s’appliquer à tous les secteurs, des caractéristiques sectorielles spécifiques peuvent néanmoins nécessiter des réponses distinctes. Par exemple, l’utilisation de technologies liées à l’IA dans les systèmes de conduite autonome doit répondre à un ensemble diversifié de paramètres susceptibles d’être différents de ceux pertinents pour le déploiement de l’IA dans la découverte de médicaments ou la publicité en ligne.
Troisièmement, étant donné le niveau d’inquiétude des circonscriptions et des groupes cibles pour la réglementation, les décideurs politiques doivent garder à l’esprit la gamme complète d’outils de réglementation disponibles dans le contexte de l’IA. Il s’agit notamment de continuer à s’appuyer sur les exigences légales existantes pertinentes pour l’IA, telles que le droit de la responsabilité délictuelle et la discrimination dans l’emploi, qui peuvent être progressivement élaborées par les tribunaux ou les administrateurs. Les décideurs politiques devraient également tenir compte des mérites d’une gouvernance non contraignante de l’IA, ainsi que des coûts et des avantages du recours aux normes de l’industrie de l’IA.
La question de savoir quels types de réglementations sont appropriées et dont la société a le plus besoin restera complexe. Il ne fait aucun doute que des recherches supplémentaires pour examiner l’impact potentiel de la réglementation de l’IA aideront les régulateurs à concevoir des cadres réglementaires appropriés pour l’IA et à réfléchir à la manière de mettre en œuvre et d’adapter les lois existantes. Alors que les décideurs examinent les compromis, nos résultats soulignent à quel point les chefs d’entreprise sont sensibles aux risques et aux coûts associés à la réglementation de l’IA. Leurs réponses peuvent avoir des effets profonds sur les travailleurs, les entreprises et les consommateurs dans les années à venir.