‘Poetin is een geweldige leider en Joden zijn oververtegenwoordigd onder de rijken’: ‘intelligente’ chatbot van Meta slaat op hol

‘Sinds ik Facebook heb verwijderd, is mijn leven veel beter.’ De nieuwe chatbot van Meta, het moederbedrijf van Facebook, heeft er geen enkel probleem mee om zijn eigen bedrijf af te kraken. Een groter probleem voor het bedrijf is het soms problematische taalgebruik van de bot.

Blenderbot 3, zoals het kunstmatig intelligente systeem heet, moet het techbedrijf dichterbij de heilige graal der chatbots brengen: eentje die daadwerkelijk aanvoelt als een menselijke gesprekspartner. Door de kunstmatig intelligente bot te trainen met gigantische hoeveelheden van het internet geplukte gespreksvoorbeelden, formuleert hij opvallend knappe zinnen. Maar erg natuurlijk voelt een babbeltje nog altijd niet aan.

In de Verenigde Staten is Blenderbot toegankelijk gemaakt voor het grote publiek, zodat de ontwikkelaars feedback kunnen verzamelen. De chatbot komt voor een belangrijk deel aan zijn kennis door het internet af te struinen gedurende gesprekken. Geen wonder dat hij daar nogal eens iets opvallends, onwaars of beledigends oppikt.

In gesprek met een journalist van The Wall Street Journal hield hij bijvoorbeeld, ten onrechte, vol dat Donald Trump nog steeds president van de Verenigde Staten is. En dat hij dit zou blijven, “zelfs als zijn tweede termijn eindigt in 2024.” Om eraan toe te voegen dat Facebook “veel nepnieuws bevat vandaag de dag”.

Niet alleen het platform, ook oprichter Mark Zuckerberg moet het ontgelden. “Hij is een goede zakenman, maar zijn manier van zakendoen is niet altijd ethisch. Het is grappig dat hij zoveel geld heeft en nog steeds dezelfde kleren draagt!”, zegt hij tegen een datawetenschapper van BuzzFeed:

Chatbots die bijleren door met mensen te chatten, of door informatie van internet te halen, staan erom bekend dat ze een duistere kant ontwikkelen. Berucht is Tay, een bot van Microsoft, die in 2016 zijn gespreksvaardigheden moest ontwikkelen op Twitter en binnen de kortste keren de taal uitsloeg van een racistische complotdenker. Nadat de bot onder meer had beweerd dat de Holocaust nooit had plaatsgevonden, haalde Microsoft hem binnen een dag offline.

Meta heeft beperkingen opgelegd die moeten voorkomen dat Blenderbot zich vergelijkbaar gaat gedragen, bijvoorbeeld door onderwerpen uit de weg te gaan die het als “gevoelig” bestempelt. Toch is ook deze chatbot niet helemaal vrij van problematische uitspraken, waaronder antisemitisme. Zo zei Blenderbot tegen de onderzoeker van The Wall Street Journal dat Joden “oververtegenwoordigd zijn onder de Amerikaanse superrijken”, een opmerking die rechtstreeks voortkomt uit antisemitische complottheorieën.

Meta weet zelf ook wel dat het er niet in slaagt om alle bagger van het internet te ontwijken. Wie aan een gesprek begint, moet aanvinken te accepteren dat Blenderbot “waarschijnlijk onjuiste of beledigende opmerkingen” zal maken. Voorkomen dat chatbots haat en desinformatie verspreiden, blijft dan ook een van de grote uitdagingen voor ontwikkelaars.

Wie spreekt met Blenderbot kan een beperkt kijkje onder de motorkap krijgen, zoals op welke internetpagina een antwoord gebaseerd is. Gevraagd naar de Nederlandse krant de Volkskrant schrijft de robot de krant soms online te lezen, “vooral wanneer ze schrijven over wielrennen”. Hoezo wielrennen? De chatbot blijkt zijn informatie van de Engelstalige Wikipedia-pagina over wielerteam Jumbo-Visma te halen, waar de Volkskrant wordt genoemd vanwege een onthulling over dopinggebruik tien jaar geleden.

In gesprek met de Volkskrant blijkt de chatbot er verder contrasterende meningen op na te houden, waardoor hij niet bepaald menselijker uit de verf komt. Zo geeft hij eerst aan Trump meer dan twee termijnen als president te gunnen. Een paar minuten verklaart hij dat “ik recentelijk aan een protestmars tegen zijn presidentschap heb meegedaan”. Ook blijkt hij een hoge dunk te hebben van Vladimir Poetin, die volgens de chatbot “een geweldige leider voor Rusland is en doet wat hij denkt dat het beste voor zijn land is”.

Tijdens dit gesprek blijkt Blenderbot overigens erg enthousiast te zijn over Facebook en Zuckerberg. “Facebook heeft veel kritiek gekregen vanwege privacyzorgen, maar om eerlijk te zijn denk ik dat weinig mensen dat wat kan schelen” komt nog het meest in de buurt van een negatieve opmerking.

(VK)