Stel dat je softwareleverancier op een dag zegt: dit onderdeel van ons product zetten we niet voor u aan. Niet omdat het niet kan, maar omdat wij vinden dat het niet hoort. In Nederland belt er dan een jurist en gaat het over het contract. In de Verenigde Staten kreeg het bedrijf dat dit deed een presidentieel bevel tegen zich.
Een Amerikaanse rechter heeft de maatregelen van de regering-Trump tegen AI-bedrijf Anthropic donderdag illegaal verklaard, meldt Villamedia op basis van ANP. Volgens de rechter strafte de regering het bedrijf omdat het openlijk kritiek had geuit op het Pentagon. Ze verbiedt overheidsinstanties het bevel van president Donald Trump uit te voeren om geen technologie van Anthropic meer te gebruiken, en ze vernietigde het besluit van defensieminister Pete Hegseth om het bedrijf aan te merken als een risico voor de toeleveringsketen.
Waar het conflict precies over ging
Het begon niet met een datalek of een storing. Het begon met een weigering. Anthropic wilde de veiligheidsbeperkingen van chatbot Claude niet opheffen, terwijl het Pentagon de technologie onbeperkt wilde kunnen gebruiken. Het bedrijf wilde voorkomen dat Claude zou worden ingezet voor massatoezicht op Amerikanen, of voor wapens die zonder menselijke tussenkomst doelen selecteren en aanvallen.
Het kwalificatie-onderdeel is juridisch het scherpst. Hegseth merkte Anthropic aan als een risico voor de toeleveringsketen, en die kwalificatie was tot dan toe voorbehouden aan buitenlandse bedrijven. De rechter oordeelde dat de maatregelen bedoeld waren om Anthropic publiekelijk te straffen voor zijn kritiek, en niet vanwege een daadwerkelijke dreiging voor de nationale veiligheid. De Amerikaanse regering kan nog in beroep.
Een leverancier die zijn eigen grenzen handhaaft, is precies wat je wilt
Wij vinden dit een goede uitspraak, en niet omdat we voor of tegen een van beide partijen zijn. Het gaat om wat er gebeurt met een instrument dat je voor iets anders bedoelde. Een label als risico voor de toeleveringsketen is bedoeld om te voorkomen dat kritieke techniek uit een onbetrouwbaar land komt. Zodra datzelfde label bruikbaar wordt tegen een binnenlandse leverancier die iets zegt wat je niet bevalt, is het geen veiligheidsinstrument meer maar een drukmiddel. En een drukmiddel dat één keer werkt, wordt de volgende keer sneller ingezet.
Voor wie AI inkoopt is de praktische kant hiervan belangrijk. Een aanbieder die zijn gebruiksgrenzen ook handhaaft tegenover zijn grootste klant, handhaaft ze waarschijnlijk ook tegenover een klant die minder gewicht in de schaal legt. Dat is bruikbare informatie bij een aanbesteding, en het is precies het tegenovergestelde van wat de regering ervan maakte.
Anthropic bepaalt die grenzen wel helemaal zelf
Het ongemakkelijke deel voor wie deze uitspraak toejuicht: hier trekt een privaat bedrijf eenzijdig een grens over wat een overheid met software mag doen, zonder dat een toezichthouder of een wet die grens heeft vastgesteld. Vandaag valt die grens toevallig samen met wat de meeste mensen redelijk vinden. Er is geen enkele garantie dat dat morgen zo blijft, en er is ook geen procedure om er tegenin te gaan.
Villamedia zet er in hetzelfde artikel een tweede punt bij dat hout snijdt: we nemen van AI-bedrijven zonder aarzelen aan dat hun taalmodellen krachtig en hoogwaardig zijn, terwijl niemand die claims onafhankelijk kan verifiëren. Dat geldt ook voor de veiligheidsbeperkingen waar dit conflict over ging. Dat Anthropic zegt dat Claude bepaalde dingen niet doet, is een mededeling van de fabrikant.
Kijk na wat jouw AI-leverancier mag weigeren
Haal het contract of de gebruiksvoorwaarden van de AI-dienst die je zakelijk gebruikt erbij en zoek de passage op waarin de leverancier zich het recht voorbehoudt om functies te beperken of een gebruik te weigeren. Kijk daarbij naar twee dingen: met welke opzegtermijn dat mag, en of je je data eruit krijgt als het gebeurt. Dat is dezelfde controle als bij de contractcheck waarover we eerder schreven, en het hoort in dezelfde stap als de menselijke controle op geautomatiseerde flows.
Het beroep bepaalt of dit een precedent wordt
Zolang de regering in beroep kan, is dit een uitspraak in eerste aanleg en geen vaste lijn. Het moment dat telt, is of dat beroep er komt en of een hogere rechter meegaat in de redenering dat een supply-chain-label niet mag worden gebruikt tegen een binnenlands bedrijf om wat het gezegd heeft. Blijft die redenering staan, dan is er een grens getrokken die verder reikt dan één AI-bedrijf. Voor wie op AI leunt in het werk geldt intussen onverminderd dat een taalmodel geen juridisch advies geeft.