Amerika verplicht bouwers van 'fundamentele modellen' tot een 'verantwoorde' AI-test

De test is in ontwikkeling bij het National Institute of Standards and Technology (NIST). De ontwikkelaars bij techbedrijven die onder de verplichting gaan vallen, moeten deze zogeheten 'red-team safety tests' uitvoeren en de resultaten doorgeven aan een toezichthouder voor het product of de dienst op de markt mag komen. 

Gevaren voor kritieke infrastructuur

Het ministerie van Binnenlandse Veiligheid (Homeland Security) gaat bepalen welke tests voor welke infrastructuursectoren vanuit veiligheidsoogpunt van toepassing zijn. Daarnaast gaat dit ministerie samen met het ministerie van Energie bepalen welke AI-systemen gevaar opleveren voor de kritieke infrastructuur. De tests zijn onder meer bedoeld om na te gaan of er bijvoorbeeld met het systeem desinformatie kan worden gecreëerd en of er wapens mee kunnen worden gefabriceerd.

Watermerk voor AI-gegenereerd materiaal

Verder gaat het ministerie van Handel richtlijnen ontwikkelen voor het watermerken van door AI-gegenereerde content. Daarmee moet duidelijker worden wie de afzender is en moeten deze regels bijvoorbeeld voorkomen dat Amerikaanse burgers te maken krijgen met gefalsificeerde overheidscommunicatie.

Onderdeel van de 'executive order' is verder dat er meer aandacht komt voor het ontwikkelen van AI-tools voor het veiliger maken van software en netwerken. Verder wil het Witte Huis dat de militaire organisaties en inlichtingendiensten AI veilig ethisch en effectief gaan inzetten bij hun missies.