Voor iedereen die geïnteresseerd is in de ethiek van AI is het de moeite waard om te volgen wat zich nu in Amerika afspeelt.
Het Department of Defence (door Trump van de veelzeggende extra titel ‘Department of War’ voorzien) eist dat Anthropic (maker van Claude) alle gebruiksbeperkingen op hun AI-modellen opheft. Concreet gaat het om twee waarborgen die Anthropic in het contract had bedongen: het verbod op massa-surveillance van Amerikaanse burgers, en het verbod op volledig autonome dodelijke wapens die zonder mens-in-de-loop een doelwit uitkiezen en doden.
Anthropic weigert dit, en dat heeft ze de toorn van de Amerikaanse regering op de hals gehaald. Trump heeft alle overheidsdiensten opgedragen te stoppen met AI modellen van Anthropic. Minister van Defensie Hegseth heeft Anthropic bestempeld als ‘supply chain risk’, een aanduiding die normaal gereserveerd is voor buitenlandse vijanden en nog nooit op een Amerikaans bedrijf is toegepast. Tegelijkertijd dreigt de regering met de ‘Defense Production Act’, een wet die alleen geldt als een product essentieel is voor de nationale veiligheid. Anthropic is dus tegelijk een veiligheidsrisico én onmisbaar. Een wonderlijke tegenstelling die laat zien dat dit vooral een machtsstrijd is.
Ondertussen is OpenAI (maker van ChatGPT) in het gat gesprongen, en heeft een deal met het Pentagon gesloten. Ze zeggen dezelfde rode lijnen te hanteren, maar laten de beoordeling daarvan aan het Department of Defence over. Wel zo gemakkelijk.
Anthropic is geen heilige: ze werken samen met surveillance-bedrijf Palantir en waren het eerste AI-bedrijf dat actief was op de defensie-computernetwerken van de overheid. Maar deze confrontatie laat wel zien dat er grote verschillen bestaan tussen AI-aanbieders als het aankomt op het stellen van ethische grenzen.
We gebruiken inmiddels zo’n beetje allemaal AI. Deze episode laat zien hoe hoog de inzet is: de ethische grenzen aan AI staan onder grote druk, en een gunstige uitkomst is allerminst zeker. Dit is een sterk argument voor digitale soevereiniteit: eigen Europese en Nederlandse AI modellen, op onze eigen voorwaarden, onderbouwd door onze eigen ethiek. Hup GPT-NL!
Links: