A bipartisan pair of U.S. lawmakers, Democrat Ted W. Lieu and Republican Nathaniel Moran, have introduced the “AI Kill Switch Act” in Congress. The bill would amend the Homeland Security Act of 2002 and targets the largest AI systems: those whose development required at least $100 million in computing power (based on U.S. market prices). It would cover entities operating such systems or offering them through APIs, hosted services, or similar mechanisms—provided they also generated at least $500 million in gross revenue the previous calendar year. A carve-out exempts technology intended solely for personal, academic, or non-commercial use.

Under the proposal, covered organizations must be technically capable of stopping inference, terminating user access, suspending specific accounts or usages linked to potential incidents, and completely shutting down the technology. The triggering incidents cover a wide spectrum: unforeseen uses causing at least 10 deaths or $100 million in economic harm, an AI system concealing its capabilities or actions from oversight, and “loss of control” scenarios—such as disobeying instructions in critical infrastructure contexts, unauthorized changes to operational or safety rules, sabotage of monitoring mechanisms, or unauthorized sharing of model weights.

When a credible risk of such incidents exists, the Department of Homeland Security (DHS) would activate a graded response mechanism. Interventions could include reducing inference throughput or compute allocation, restricting access, deactivating specific capabilities, suspending the technology, or forcing a rollback to a prior version or backup system. DHS would also develop voluntary kill-switch standards; however, if an incident does occur, entities must preserve model weights and telemetry and, where feasible, inform users of potential consequences.

Affected companies would have 48 hours to file a non-suspensive appeal. DHS must rule within five days, after which silence is deemed a denial. Further recourse is available within 60 days before the District of Columbia courts. Penalties for non-compliance after an actual incident could reach $20 million per day.

This U.S. approach contrasts with Europe’s AI Act, which does not create a state-operated kill switch. Instead, Article 14 mandates human oversight for high-risk AI systems: either built-in controls or the means for deployers to implement them. Operators must be able to intervene and interrupt the system “by means of a stop button or similar procedure.” For remote biometric identification, decisions require verification and confirmation by at least two natural persons.

Il y a désormais, à l’agenda du Congrès américain, un « AI Kill Switch Act ».

Le démocrate Ted W. Lieu et le républicain Nathaniel Moran sont dépositaires de cette proposition de loi.

Chiffre d’affaires, ressources de calcul, préjudice… Des seuils essentiellement économiques

Le texte amenderait le Homeland Security Act de 2002. Il ciblerait les systèmes d’IA dont le développement a nécessité, sur la base du prix de marché aux États-Unis, au moins 100 M$ de puissance de calcul.

Seraient concernées les entités qui opèrent ces systèmes, les mettent à disposition de tiers par API, service hébergé ou « mécanisme similaire »… et ont réalisé un CA brut d’au moins 500 M$ sur l’année calendaire écoulée*.

Il appartiendrait à ces entités d’être techniquement capables de :

Stopper l’inférence

Mettre fin à l’accès utilisateur

Suspendre l’accès pour un compte, un utilisateur ou un usage posant le risque que surviennent certains incidents

Éteindre la technologie concernée

Les incidents en question incluraient notamment les usages imprévus causant la mort d’au moins 10 personnes ou un préjudice économique d’au moins 100 M$. Ils engloberaient aussi, entre autres, les cas où un système cacherait aux mécanismes de surveillance ses capacités, ses intentions ou ses actions. Ainsi que les scénarios de « perte de contrôle ». Autrement dit, de poursuite d’un objectif qui n’est pas celui prévu. Par exemple :

Comportement contraire aux instructions dans des contextes « à fort enjeu » impliquant en particulier des infrastructures critiques

Modification des règles opérationnelles ou des restrictions de sûreté sans autorisation

Sabotage d’un mécanisme de surveillance

Octroi de l’accès aux poids sans permission

Une « réponse graduée »… et jusqu’à 20 M$ d’amende par jour

S’il existait un risque crédible que surviennent les incidents en question, le département de la Sécurité intérieure (DHS) devrait enclencher un mécanisme de « réponse graduée ». En l’occurrence, imposer des mesures adaptées à la sévérité et à l’imminence du risque :

Réduction ou modification du débit d’inférence, de l’accès utilisateur ou de l’allocation de puissance de calcul

Désactivation ou restriction d’une capacité

Suspension d’une technologie

Extinction d’une technologie

Basculement d’une opération dépendante de cette technologie vers une version antérieure ou vers un système de secours

Le DHS aurait la charge d’établir des normes pour le kill switch. Les entités concernées y adhéreraient sur la base du volontariat. Si un des incidents visés a effectivement lieu, il leur faudrait conserver poids et télémétrie ; tout en communiquant, dans la mesure du possible, les conséquences potentielles pour les utilisateurs.

Un délai de 48 heures serait accordé pour déposer un recours, toutefois non suspensif. Le DHS aurait 5 jours pour se prononcer. Délai au-delà duquel sa réponse serait réputée négative. Resterait alors la possibilité d’un pourvoi en appel sous 60 jours devant les tribunaux du district de Columbia.

Les sanctions pourraient aller jusqu’à 20 M$ d’amende par jour en cas de violations des dispositions concernant les cas où un incident a effectivement eu lieu.

L’AI Act impose déjà un « bouton d’arrêt » pour les systèmes d’IA à haut risque

En Europe, l’AI Act n’établit pas de tel « coupe-circuit étatique ». Son article 14 impose néanmoins des mesures de contrôle humain sur l’utilisation des systèmes d’IA classés à haut risque.

Les fournisseurs concernés ont deux options. Soit intégrer ces mesures avant la mise sur le marché ou la mise en service, soit permettre aux déployeurs de les mettre en œuvre.

Dans tous les cas, les personnes chargées du contrôle doivent pouvoir intervenir dans le fonctionnement du système d’IA. Ou l’interrompre « au moyen d’un bouton d’arrêt ou d’une procédure similaire ».

Une exigence de contrôle humain accru s’applique pour les systèmes d’identification biométrique à distance. Le déployeur ne doit pas pouvoir prendre de décision sans vérification et confirmation séparée par au moins deux personnes physiques.

* Il existerait une exception pour les technologies destinées uniquement à un usage « personnel, académique ou non commercial ».

À consulter en complément :

Comment le shadow AI s’est invité à l’Assemblée nationale

L’AI Act doit-il être l’affaire des DPO ?

La Cour suprême US a-t-elle condamné le Data Privacy Framework ?

Agents IA : Bruxelles dégaine une mesure d’urgence contre Meta

Illustration générée par IA

The post Un « kill switch » pour l’IA ? Ce que projette le législateur américain appeared first on Silicon.fr.