De belangenbehartigingsgroep voor gegevensrechten, Noyb, heeft in Oostenrijk een nieuwe klacht ingediend tegen OpenAI, de ontwikkelaar van de AI-chatbot ChatGPT. De klacht, ingediend op 29 april, beweert dat OpenAI heeft verzuimd om onjuiste informatie die door ChatGPT werd verspreid te corrigeren, wat mogelijk in strijd is met Europese privacywetgeving.
Het incident kwam aan het licht toen een anonieme publieke figuur herhaaldelijk foutieve informatie ontving via de chatbot. Ondanks verzoeken om deze gegevens te corrigeren of te verwijderen, weigerde OpenAI dit en verstrekte ook geen informatie over de herkomst van de trainingsdata van de chatbot.
Maartje de Graaf, gegevensbeschermingsadvocaat bij Noyb, benadrukte het belang van nauwkeurigheid en transparantie bij dergelijke technologieën. Ze stelde dat als een systeem niet nauwkeurig en transparant kan zijn, het niet gebruikt moet worden voor het genereren van gegevens over individuen.
Noyb heeft de Oostenrijkse gegevensbeschermingsautoriteit verzocht om onderzoek te doen naar de gegevensverwerking door OpenAI, met name naar de manier waarop het bedrijf de nauwkeurigheid van persoonlijke informatie waarborgt.
Dit incident staat niet op zichzelf; in december 2023 kwamen vergelijkbare problemen aan het licht met de Bing AI-chatbot van Microsoft en de Gemini AI-chatbot van Google, die respectievelijk misleidende informatie en onnauwkeurige beelden leverden.
Noyb, ook bekend als het European Centre for Digital Rights, zet zich vanuit Wenen in voor de bescherming van digitale rechten in Europa.
Bron: verscheidene