Europees Parlement keurt wetsvoorstel goed: Strengere regels voor AI-systemen met hoog risico

Het wetsvoorstel deelt AI-systemen in verschillende categorieën in. Systemen met een onaanvaardbaar risico, vergelijkbaar met het sociaal gedrag bijhouden door de overheid zoals in China, worden verboden. Systemen met een hoog risico, zoals sollicitatierobots die onbedoeld vrouwen discrimineren, worden aan strenge regels gebonde23:00

Het Europees Parlement heeft enkele aanpassingen gedaan aan het wetsvoorstel van de Europese Commissie. Zo worden biometrische categoriseringssystemen die gevoelige kenmerken gebruiken verboden, evenals voorspellende politiesystemen gebaseerd op profilering, locatie of crimineel gedrag uit het verleden. Verder wordt het gebruik van real-time gezichtsherkenning in de publieke ruimte aan banden gelegd. Een voorstel om dit toch toe te staan, werd verworpen.

Naast deze maatregelen pleit het parlement voor een verplichte mensenrechtentoets voordat AI wordt ingezet, evenals het recht op informatie en uitleg voor personen die benadeeld zijn door AI. Er moeten ook nieuwe bindende regels komen voor grote systemen zoals ChatGPT, evenals milieustandaarden en rapportage van de klimaatimpact van AI. Na de zomer zullen er onderhandelingen plaatsvinden tussen het parlement en de EU-landen. Als alles volgens plan verloopt, zal de wet begin volgend jaar ingaan. Met deze wet hoopt Europa de controle over AI te waarborgen en ervoor te zorgen dat de technologieën die worden ontwikkeld voldoen aan hoge standaarden op het gebied van betrouwbaarheid, ethiek, veiligheid en milieu.