Jensen Huang de Nvidia estime que la sécurité de l’IA doit être laissée aux entreprises, pas à de nouvelles lois

Le PDG de Nvidia, Jensen Huang, a rejeté les appels à une nouvelle réglementation de l’intelligence artificielle, soutenant que la sécurité de l’IA devrait être gérée par l’ingénierie, les lois existantes et la pression du marché plutôt que par des règles gouvernementales supplémentaires.

S’exprimant à Salesforce Dreamforce le 15 septembre, Huang a déclaré que l’IA n’est pas un « esprit extraterrestre », mais un système informatique construit par des humains. Parce qu’il s’agit de logiciel et de matériel, a-t-il expliqué, les entreprises devraient être en mesure de contrôler ses risques par le développement et les tests des produits.

Cette position place l’une des figures les plus influentes du marché de l’infrastructure de l’IA résolument contre toute nouvelle réglementation de l’IA. Elle met aussi en lumière un débat politique central auquel sont confrontés les créateurs d’IA et les acheteurs d’entreprise : les systèmes potentiellement nuisibles doivent-ils être encadrés principalement comme des produits, ou nécessitent-ils des règles conçues spécifiquement pour des modèles et des agents de plus en plus capables ?

L’argument de Huang en faveur de l’ingénierie plutôt que de la réglementation

« La sécurité est un problème d’ingénierie, pas un problème juridique », a déclaré Huang, selon le compte rendu de la discussion par TechCrunch AI. Il a comparé le développement de l’IA à la création d’autres logiciels et systèmes informatiques, affirmant que les entreprises devraient retarder un lancement lorsqu’elles ne sont pas confiantes dans sa fonctionnalité, ses capacités ou sa sécurité.

Huang a également soutenu que le libre marché donne déjà aux entreprises une incitation à éviter de mettre sur le marché des produits dangereux. À ses yeux, les clients rejetteront les systèmes qui ne fonctionnent pas de manière fiable ou sûre, tandis que les entreprises peuvent ajuster leur rythme de développement lorsqu’un produit semble devenir incontrôlable.

Le patron de Nvidia a présenté la sécurité et l’innovation rapide comme des objectifs compatibles. Selon lui, les entreprises peuvent continuer d’avancer rapidement tout en marquant une pause lorsque c’est nécessaire pour s’assurer qu’un produit est prêt. Son argument reflète l’intérêt commercial plus large de Nvidia à étendre l’adoption de l’IA dans tous les secteurs et tous les pays, même si les éléments fournis par TechCrunch n’établissent pas que les seuls incitatifs du marché suffisent à empêcher des dommages graves.

Les éléments derrière le débat sur la sécurité

Les propos de Huang relèvent de la position d’un dirigeant, et non d’une nouvelle étude de sécurité de Nvidia ni d’une analyse politique validée de manière indépendante. TechCrunch a rapporté ces remarques depuis l’événement Salesforce, mais aucune donnée n’a été citée montrant que les décisions volontaires des entreprises empêchent de manière constante les défaillances ou les mésusages dans les produits d’IA.

L’historique du déploiement logiciel invite à la prudence. TechCrunch a évoqué la panne de CrowdStrike en 2024, au cours de laquelle une mise à jour logicielle défectueuse a perturbé des compagnies aériennes et d’autres entreprises, comme exemple de la manière dont une défaillance involontaire d’un produit peut avoir des conséquences bien au-delà de l’entreprise qui l’a lancé.

L’article a également cité le règlement rapporté de Meta à hauteur de 18 milliards de dollars concernant des allégations de préjudice envers des enfants sur ses plateformes sociales. Ce cas n’est pas un précédent spécifique à l’IA, mais il illustre les limites de l’hypothèse selon laquelle les entreprises internaliseraient toujours le coût social total de leurs décisions produit.

Les systèmes d’IA ont généré leur propre lot de préoccupations, notamment des allégations liées aux interactions avec des chatbots, des incidents de cybersécurité et des poursuites contre OpenAI. Ces exemples ne prouvent pas que la réglementation aurait empêché les dommages sous-jacents. Ils montrent cependant pourquoi les critiques se demandent si les tests internes et le choix des clients offrent une protection suffisante lorsque les systèmes affectent des personnes qui ne sont ni les acheteurs ni les opérateurs.

Le droit existant de la responsabilité du fait des produits pourrait potentiellement s’appliquer aux produits d’IA, comme l’a noté TechCrunch, mais cela reste une question juridique que les tribunaux devraient tester à travers différents systèmes, usages et chaînes de responsabilité. La source a aussi rapporté que Huang ne s’est pas concentré sur l’autorégulation du secteur, une autre voie possible entre déploiement sans restriction et règles gouvernementales formelles.

Ce que la vision de Huang signifie pour les créateurs d’IA

Pour les développeurs de modèles et les équipes produit, la position de Huang renforce l’importance de traiter la sécurité de l’IA comme une discipline de lancement et d’ingénierie. Cela inclut les tests du comportement des modèles, la surveillance des déploiements, la mise en place de contrôles d’accès et la création de procédures claires de retour en arrière lorsque les systèmes se comportent de manière inattendue.

Ces pratiques sont particulièrement importantes pour les agents d’IA capables d’agir dans des systèmes métier plutôt que de simplement générer du texte. Une défaillance d’un agent peut affecter des dossiers clients, des paiements, des dépôts de code ou des décisions internes. La pression du marché peut sanctionner une entreprise après un incident, mais elle ne protège pas nécessairement les utilisateurs concernés avant que la défaillance ne se produise.

Le contexte commercial compte aussi. Nvidia fournit une grande partie de l’infrastructure utilisée pour entraîner et déployer l’IA, et se développe dans les logiciels, les agents, les modèles à poids ouverts et les environnements de développement. Sa croissance dépend du fait que les clients continuent de construire et d’exploiter des systèmes d’IA à grande échelle. Cela n’invalide pas l’argument de Huang sur la sécurité, mais signifie que les lecteurs devraient distinguer une opinion technique d’une évaluation indépendante des arbitrages d’intérêt عمومی.

Pour les entreprises, le débat pose une question pratique de diligence raisonnable. Les acheteurs ne peuvent pas supposer que le processus de sécurité interne d’un fournisseur couvrira tous les risques créés par le déploiement dans leur propre environnement. Ils auront besoin de protections contractuelles, de droits d’audit, de signalement des incidents, d’une supervision humaine et de responsabilités claires lorsqu’un modèle ou un agent cause des dommages.

Réglementation, autorégulation et concurrence

Les propos de Huang interviennent alors que l’industrie de l’IA se demande si des normes volontaires peuvent fournir des garde-fous sans ralentir le développement. TechCrunch a rapporté que le PDG de Microsoft, Satya Nadella, a soutenu que les entreprises et les pays, y compris la Chine, devraient partager la préoccupation concernant des risques tels que le piratage et la sécurité des citoyens.

Cet argument va dans le sens d’une autorégulation coordonnée du secteur, mais la participation et l’application restent non résolues. Un cadre volontaire n’est aussi solide que sa couverture, ses normes de test, ses exigences de signalement et les conséquences pour les entreprises qui l’ignorent. Il peut aussi être difficile à appliquer de manière cohérente aux systèmes propriétaires, aux modèles à poids ouverts et aux produits distribués via des tiers.

Huang a promu les modèles à poids ouverts comme contrepoids concurrentiel aux laboratoires d’IA propriétaires. Cette approche peut élargir l’accès aux modèles et aux outils, mais elle complique aussi la supervision car les utilisateurs en aval peuvent modifier, affiner ou déployer les systèmes d’une manière que le développeur d’origine n’avait pas anticipée.

La question politique centrale n’est donc pas simplement de savoir si l’IA est un logiciel. Elle est de savoir si un logiciel doté d’une large autonomie, d’un comportement incertain et d’effets sociaux à grande échelle peut être régi de manière adéquate par les mêmes mécanismes que ceux utilisés pour les produits commerciaux ordinaires.

Ce qu’il faut surveiller ensuite

Les prochains signaux viendront de la manière dont les entreprises opérationnalisent la position sur la sécurité décrite par Huang. Les acheteurs et les développeurs devraient surveiller des tests audités de manière indépendante, une divulgation significative des incidents et des preuves que les fournisseurs suspendent ou retirent des systèmes lorsque des préoccupations de sécurité apparaissent.

Les affaires judiciaires clarifieront aussi si les règles existantes de responsabilité du fait des produits peuvent attribuer la responsabilité entre créateurs de modèles, développeurs d’applications, déployeurs et utilisateurs. Les décideurs politiques pourront utiliser ces affaires pour déterminer si de nouvelles règles sont nécessaires ou si le droit actuel peut être adapté.

Les normes portées par l’industrie constitueront un autre test. Leur crédibilité dépendra du fait que les grands laboratoires d’IA et les fournisseurs d’infrastructure adoptent des définitions communes, partagent les informations sur les défaillances et acceptent des conséquences en cas de non-respect plutôt que de traiter les engagements de sécurité comme du langage marketing.

Perspective de Creati.ai

Huang a raison de dire qu’une grande partie de la sécurité de l’IA relève de décisions d’ingénierie : évaluation, contrôles d’accès, surveillance et processus de lancement disciplinés. Mais les contrôles techniques et la responsabilité publique ne sont pas interchangeables. Une entreprise peut faire un effort de bonne foi et manquer malgré tout un mode de défaillance, tandis que les personnes affectées peuvent n’avoir aucun moyen significatif d’éviter le préjudice qui en résulte.

L’approche la plus durable consistera probablement à combiner le travail technique de sécurité avec une responsabilité exécutoire. Pour les créateurs d’IA, cela signifie concevoir en prévoyant l’échec et documenter les contrôles. Pour les entreprises, cela signifie exiger des preuves plutôt que se fier à des assurances. Et pour les décideurs politiques, cela signifie vérifier si le droit existant fonctionne avant de décider où des règles nouvelles et ciblées sont nécessaires.