- De razendsnelle opkomst van toepassingen van artifcial intelligence (AI) heeft gezorgd voor veel vraag naar techneuten met verstand van kunstmatige intelligentie.
- Maar voor bedrijven die AI implementeren, is dat waarschijnlijk niet de belangrijkste functie.
- De rol van de ‘chief ethics officer’, die moet vaststellen hoe AI wordt geïmplementeerd, welke juridische risico’s er zijn en wat er gebeurt met regelgeving, is belangrijker dan ooit.
- Lees ook: Werkgevers kunnen zien dat je AI je sollicitatiebrief laat schrijven – zo kun je de software beter inzetten
ANALYSE – De introductie van ChatGPT was het begin van een nieuw tijdperk voor het bedrijfsleven.
De nieuwe technologie — generatieve AI — kan in razend tempo op basis van geschreven of gesproken vragen e-mails schrijven, programmeren en infographics maken. Ineens leken de dagen waarop mensen achter hun computer zaten te worstelen met het opstellen van een e-mail of het maken van een presentatie verleden tijd.
Bedrijven, dol op kostenbesparingen en productiviteitswinst, waren er als de kippen bij om de technologie te adopteren. Volgens een in mei gehouden enquête van adviesbureau Mckinsey gebruikt zo’n 65 procent van ruim 1.300 ondervraagde grote bedrijven regelmatig generatieve AI — twee keer zoveel als het jaar ervoor.
Maar er zijn grote zorgen dat de technologie wordt misbruikt. Generatieve AI kan hallucineren (foute antwoorden verzinnen), desinformatie verspreiden en vooroordelen bevestigen tegen bepaalde groepen, als het niet op de juiste manier gebruikt wordt.
Ook is er een flink risico op datalekken, omdat de technologie volop gebruik maakt van gevoelige gegevens. Verder zijn er juridische risico's, omdat vaak nog onduidelijk is of AI-bedrijven die hun modellen het getraind met materiaal op het internet, inbreuk hebben gemaakt op auteursrechten.
In bredere zin bestaat het gevaar dat de technologie bij verdere ontwikkeling in strijd gaat handelen met menselijke waarden.
Bedrijven die geld verdienen aan de inzet van generatieve AI, hebben dus te maken met speciale verantwoordelijkheden. En daar komt de 'chief ethics officer' om de hoek kijken.
Een cruciale rol in het AI-tijdperk: ethisch handelen
De precieze invulling van de functie verschilt van bedrijf tot bedrijf, maar een chief ethics officer is verantwoordelijk voor het vaststellen van de impact van het gebruik van AI op de samenleving, zegt hoofd AI en privacy officer Var Shankar van softwareplatform Enzai. "Dus los van je eigen bedrijf, wat is het effect op je klanten? En wat zijn de gevolgen voor andere mensen in de wereld? En wat is de impact op de omgeving en het milieu?", zegt hij tegen Business Insider. Daar moet "een programma voor ontwikkeld worden, dat die vragen in een standaardmodel giet elke keer dat je AI gebruikt."
De rol van chief ethics officer is een functie die beleidsexperts, filosofen en goede programmeurs een belangrijke plek geeft in de snel veranderende techsector. Een meestal hoort daar een heel goed salaris, dat in de VS kan oplopen tot zo'n 500.000 dollar.
Toch zijn veel bedrijven op dit moment nog te terughoudend bij het aanstellen van een chief ethics officer, zegt chief AI ethics officer Steve Mills van adviesbureau Boston Consulting Group. "Er wordt veel gepraat over de risico's en de uitgangspunten van de technologie, maar weinig actie ondernomen binnen bedrijven zelf."
AI en ethiek: expertise nodig op vier gebieden
Een goede 'chief ethics officer' moet volgens Mills op vier gebieden expertise hebben. Iemand moet technisch inzicht hebben in generatieve AI, ervaring hebben in het ontwikkelen en gebruiken van nieuwe producten, de wetten en regels rond AI kennen en ervaring hebben op het gebied van inhuren van mensen en het nemen van beleidsbeslissingen.
"Ik zie te vaak dat er mensen uit het middenmanagement worden aangesteld. Hoewel die misschien de nodige expertise, ambitie en passie hebben, hebben deze managers meestal niet het gezag om zaken te veranderen binnen een organisatie en zakelijke, juridische en complianceteams samen te brengen", zegt Mills.
Elk bedrijf dat op grote schaal AI gebruikt, moet volgens Mills een stevige bestuurder aanstellen die een verantwoord AI-programma uitvoert.
Shankar van softwarebedrijf Enzai, die opgeleid is als advocaat, zegt dat er geen specifieke opleiding gevraagd wordt voor de functie. De belangrijkste voorwaarde is begrip van de gegevens en informatie waar een bedrijf mee werkt. Dat betekent dat de chief ethics officer in de gaten moeten houden wat "de ethische implicaties zijn van de data die worden verzameld, waar ze vandaan komen, waar ze waren voordat ze jouw organisatie binnenkwamen en hoe ze gebruikt moeten worden", zegt hij.
Hij haalt daarbij het voorbeeld aan van zorgverzekeraars die onbedoeld vooroordelen in stand kunnen houden als ze geen stevige grip hebben op hun data. Uit een in Science gepubliceerd onderzoek blijkt dat ziekenhuizen en verzekeraars die gebruik maken van een algoritme om te bepalen wie baat heeft bij intensieve zorg, daar eerder gezondere witte patiënten uitpikken dan ziekere zwarte patiënten. Dat soort blunders kan een ethics officer vermijden.
Samenwerking tussen bedrijven en sectoren
Een chief ethics officer moet in vertrouwen kunnen communiceren met verschillende belanghebbenden.
Christina Montgomery, hoofd van de AI Ethics Board van techbedrijf IBM, zegt tegen Business Insider dat ze veel tijd besteedt aan overleg met klanten. "Ik breng ook veel tijd extern door met het houden van toespraken en praten met beleidsmakers en andere bestuurders, omdat ik het idee heb dat we heel veel invloed hebben op hoe de toekomst eruit komt te zien", zegt ze.
Montgomery heeft zich zelf tot doel gesteld om beter te begrijpen wat de bredere invloed is van AI op de samenleving. Dat is volgens haar essentieel in deze rol.
"Op dit moment is er geen wereldwijde afstemming over regels, wat er wordt verwacht, wat goed is en wat niet als het gaat over de vraag aan welke standaarden bedrijven moeten voldoen", zegt ze. "We kunnen niet goed werken in zo'n wereld. Dus de gesprekken tussen bedrijven, overheden en andere bestuurders zijn momenteel uiterst belangrijk."
