Biden wil discussie over verantwoordelijkheid rond negatieve effecten van AI

Biden deed zijn uitspraken tijdens een bijeenkomst van de President’s Council of Advisors on Science and Technology, waarvan Venturebeat een transcript oppikte. De Amerikaanse president wees op de vele voordelen die het inzetten van kunstmatige intelligentie kan hebben. Hij noemde met name klimaatverandering en het bestrijden van ziekten. Maar het is ook belangrijk, zei hij, dat we onder ogen zien dat er potentiële risico's zijn voor de maatschappij, de economie en nationale veiligheid en dat die worden aangepakt.

Het Future of Life Institute pleitte in de open brief voor een pauze in de ontwikkeling van geavanceerde natuurlijke taalmodellen als GPT 4, die de basis vormen van nieuwe diensten als ChatGPT, maar ook veel Microsoft-tools. Het instituut vreest dat de ontwikkeling nu zo snel gaat dat de effecten ervan op de maatschappij niet meer te controleren zijn. De voorgestelde pauze zou vrijwillig door de producenten in acht genomen moeten worden, maar als dat niet gebeurt, riep het instituut de Amerikaanse overheid op een moratorium in te stellen.

Biden reageerde daar in zijn voordracht niet op, net zo min als hij expliciet verwees naar de rest van open brief die vorige week verscheen. Maar hij zei wel uit te kijken naar een discussie over het zeker stellen van een verantwoorde innovatie en geschikte vangrails om de Amerikaanse rechten en veiligheid te beschermen. Hij noemde ook het belang van privacybescherming en het adresseren van het biasprobleem en het beteugelen van desinformatie.

Bescherming inbouwen

Biden haalde verder aan dat eind vorig jaar een voorstel voor een formele verklaring over AI (de AI Bill of Rights) is gepubliceerd waarin wordt vastgelegd dat belangrijke bescherming in AI-systemen wordt ingebouwd bij het ontwerp zodat niet achteraf het gemis daaraan hoeft te worden gerepareerd. "Techbedrijven hebben een verantwoordelijkheid - naar mijn mening - om er zeker van te zijn dat hun producten veilig zijn voordat ze publiekelijk beschikbaar komen."