- Apple schakelt de AI-functionaliteit uit die berichten samenvat.
- Het bedrijf doet dit na aanhoudende klachten van nieuwsuitgevers over de slechte werking ervan, waardoor foutieve informatie verspreid wordt.
- De stap van Apple geeft wederom aan dat de implementatie van generatieve AI erg lastig is, zeker als feitelijke juistheid vereist is.
- Lees ook: We leven in het tijdperk van ‘agentic AI’, volgens de baas van AI-chipmaker Nvidia: dit is wat hij bedoelt
Apple heeft vorig jaar juni allerlei nieuw AI-functionaliteiten aangekondigd voor zijn apparaten en beloofde een rustige uitrol om problemen te voorkomen en de kwaliteit hoog te houden. Maar dat gaat minder goed dan verwacht. De techreus besloot donderdag een AI-functie op te schorten na aanhoudende klachten van belangrijke nieuwsuitgevers.
Het gaat om de functie die met behulp van generatieve-AI kennisgevingen en meldingen samenvat en aan de gebruiker doorgeeft. Volgens onder andere de BBC zou deze optie ervoor zorgen dat gebruikers verkeerde informatie krijgen. De berichten die het AI-model van Apple genereert zouden niet overeenkomen met wat uitgevers publiceren.
Een voorbeeld dat de Britse nieuwsdienst geeft, is de melding die Apple-gebruikers kregen over de aanslag op de topman Brian Thompson van de Amerikaanse zorgverzekeraar UnitedHealthcare. De verdacht van de aanslag, Luigi Mangion, werd binnen enkele dagen opgepakt. Volgens de AI-generator van Apple zou Mangione zichzelf door het hoofd geschoten hebben. Iets wat overduidelijk niet het geval was.
Geen AI-samenvattingen meer na update
Apple reageerde aanvankelijk niet op de klachten. Toch werd donderdag bekend dat het bedrijf er wel gehoor aan geeft. In een gepubliceerde update voor ontwikkelaars heeft de techgigant de functionaliteit voor het samenvatten van notificaties in zijn geheel uitgeschakeld voor nieuws- en entertainments-apps.
Daarnaast zullen door AI samengevatte meldingen voortaan in een cursief lettertype weergegeven worden, zodat ze makkelijker herkenbaar zijn. De gebruiker kan hiermee in acht nemen dat het mogelijk gaat om inaccurate meldingen die het AI-model heeft gegenereerd. Dat laatste zal Apple ook duidelijker communiceren.
Wanneer de functionaliteit voor eindgebruikers uitgeschakeld zal worden, is nog onduidelijk. Apple publiceert doorgaans eerst updates voor softwareprogammeurs voordat deze ook voor eindgebruikers beschikbaar worden gesteld.
Apple zegt te werken aan verbetering van de functionaliteit en ervan uit te gaan dat deze op een later moment weer ingeschakeld wordt. Of dit op tijd zal zijn voor de geplande Nederlandse lancering van Apple Intelligence, zullen we in april zien. Als alles volgens plan verloopt, zouden Nederlanders vanaf dan ook Nederlandstalige AI-functionaliteiten op hun iPhones kunnen activeren.
De stap van Apple geeft wederom aan dat de implementatie van generatieve AI erg lastig is, zeker als feitelijke juistheid vereist is. Een bekend en aanhoudend probleem van generatieve AI is het feit dat het kan hallucineren. Dat wil zeggen dat het onder andere foutieve informatie als feiten kan presenteren. Dit probleem is inherent aan de manier waarop de onderliggende technologie (large language models - LLM) werkt. Vooralsnog is hier nog geen oplossing voor gevonden.
