Een nieuw onderzoek door de European Broadcasting Union (EBU) heeft aangetoond dat chatbots in ongeveer 45% van de gevallen onjuiste antwoorden geven. Het onderzoek, dat werd uitgevoerd in 18 landen en 14 talen, toont aan dat een aanzienlijk deel van deze antwoorden ernstig fout is doordat misleidende bronnen worden gebruikt. Daarnaast blijkt dat één op de vijf antwoorden verouderde informatie bevat. Ondanks deze bevindingen is de ophef over de onnauwkeurigheden van AI beperkt gebleven, terwijl de gevolgen van foutieve en misleidende informatie groot kunnen zijn.
De resultaten van het EBU-onderzoek hebben implicaties voor de IT-industrie, waar steeds meer gebruik wordt gemaakt van AI voor zowel interne processen als klantgerichte producten. Het blind vertrouwen op de nauwkeurigheid van AI-output kan, zoals het onderzoek aangeeft, onverstandig zijn. Of het nu gaat om het genereren van code of het leveren van technische ondersteuning, het is essentieel dat bedrijven de door AI gegenereerde output controleren om fouten en mogelijke schadeclaims te voorkomen.
ITchannelPRO heeft uit eigen ervaring ondervonden dat de communicatie ondersteund door AI niet altijd correct is, en waarschuwt dat deze fouten niet alleen in advertenties maar ook in handleidingen voorkomen. Hoewel disclaimers in handleidingen vaak aansprakelijkheid uitsluiten, verandert dit weinig aan de risico’s van het verspreiden van foutieve informatie. Het is cruciaal dat bedrijven ervoor zorgen dat hun AI-tools nauwkeurig blijven, om de reputatie en betrouwbaarheid van hun producten te beschermen.
Lees het volledige artikel op de website van ITchannelPRO:
Van AI-chatbots tot gevaarlijke handleidingen.