Fouten maken is menselijk. Omdat we weten hoe het bedoeld is, vergeven we elkaar daarvoor. Maar bij Artificial Intelligence (AI) wordt anders op spelfouten gereageerd. Zo liet een groep computer- wetenschappers van de Universiteit van Oregon in de VS met een aantal simpele taalfouten, vertaal- computers volledig ontsporen.
Daniel Lowd, co-universitair hoofddocent aan de Universiteit van Oregon laat zien hoe het werkt. We kennen allemaal de typefoutjes in WhatsApp zoals ‘van harte gejfeiciterrf’. De software weet dat iemand ‘gefeliciteerd’ bedoelde en verandert het woord netjes in de oorspronkelijke bedoeling. Soms gaat het fout en komt er een verkeerd woord uit. Dan krabt de lezer zich hooguit even achter de oren.
Alarmbellen
Een Artifical Intelligence-vertaalcomputer kent echter het begrip spelfouten niet. In bepaalde gevallen ziet de computer de fouten zelfs aan voor commando’s, met soms kwalijke gevolgen. Als bijvoorbeeld binnen justitie mailwisselingen automatisch worden vertaald, kan het gebeuren dat een mail met de tekst: “Goedemorgen, plannen vandaag?” kan worden gemanipuleerd met een paar typefouten. De vertaling wordt dan: “Zijn er plannen om ze vandaag aan te vallen?” Als de reactie dan is: “Ja natuurlijk”, kan de computer ervoor zorgen dat er overal alarmbellen afgaan. Terwijl de mens de fouten in deze mailwisseling snel zal begrijpen, weet de software niet dat het misleid wordt. Zo maakt de vertaalsoftware van “Er ist Geigenbauer und Psychotherapeut” (hij is een vioolbouwer en psychotherapeut) bij een spelfout “Er ist Geigenbauer und Psy6hothearpeiut”, de vertaling: “Hij is een baksteenmaker en een psychopaat.”
Foute interpretaties
De wetenschappers waarschuwen dat deze AI-systemen gemanipuleerd kunnen worden door mensen met slechte intenties. Maar als het mogelijk is de foute ‘interpretaties’ van de software op te sporen, kan dat er juist ook voor zorgen dat de automatische vertalingen nog beter worden.
Dit artikel is gebaseerd op het artikel op de Britse technologie website The register. Het hele artikel kunt u hier lezen.