- CEO Dario Amodei van de Amerikaanse AI-maker Anthropoc zegt dat zowel de voordelen als risico’s van artificial intelligence groot kunnen zijn.
- In de podcast Hard Fork vertelt Amodei dat hij zich zorgen maakt over de gevaren van AI voor de nationale veiligheid van de VS.
- Hij gelooft dat het mogelijk is om de risico’s te beperken zonder in te leveren op de oplossingen die de technologie biedt.
- Lees ook: Sam Altman zegt dat ChatGPT-4.5 meer emotionele intelligentie heeft, maar waarschuwt ook dat het erg duur is
CEO Dario Amodei van de Amerikaanse AI-maker Anthropic zegt dat de impact van artificial intelligence (AI) nog steeds niet voldoende serieus wordt genomen. Hij verwacht dat dit de komende twee jaar gaat veranderen.
“Ik denk dat mensen zowel de risico’s als de voordelen gaan inzien”, zegt Amodei in een aflevering van de Hard Fork-podcast. Hij denkt dat deze realisatie als een schok kan komen.
“We willen mensen wel waarschuwen, al is dat misschien lastig”, aldus Amodei. “Maar hoe meer we dat doen, des te groter de kans dat je een logische en rationele reactie kunt verwachten.”
Degenen die optimistisch zijn over de technologie, verwachten dat krachtige toepassingen van AI de barrière naar “kenniswerk” zullen verlagen, ofwel werk dat door gespecialiseerde professionals wordt uitgevoerd.
De voordelen zijn in theorie enorm - met applicaties die kunnen helpen om de klimaatproblemen aan te pakken en het risico van dodelijke ziektes beperken.
Daar staan evenzo grote risico's tegenover, stelt Amodei. Die kunnen liggen op het gebied van chemische, biologische, radiologische en nucleaire toepassingen. "Het gaat om het hardcore misbruik van AI dat een gevaar kan zijn voor de levens van mensen. Daar maakt Anthropic zich vooral zorgen om", aldus Amodei.
AI mogelijk al in 2025 een echt gevaar
Volgens de CEO van Anthropic zou zulk misbruik dit jaar of volgend jaar al kunnen opduiken, maar hij durft niet te stellen wanneer er precies een echt gevaar uit voortkomt. "We maken ons vooral druk om een het soort van hoogontwikkelde kennis dat je alleen met, laten we zeggen, een diploma in virologie kunt verkrijgen", stelt hij. "Hoe helpt AI daarmee?"
Als artificial intelligence zich kan gedragen als een vervanging voor een opleiding, "betekent dat niet dat we allemaal morgen aan een plaag doodgaan", maar houdt het wel in dat er een nieuw soort gevaar is ontstaan. "Het betekent dat er een nieuw risico in de wereld bij komt", aldus Amodei. "Een nieuw gevaar dat het makkelijker maakt om een nucleair wapen te maken."
Naast de individuele actoren, verwacht Amodei dat AI grote implicaties kan hebben voor militaire technologie en nationale veiligheid. Hij maakt zich vooral zorgen "of AI een drijvende kracht voor autocratie kan zijn."
"Als je naar onderdrukkende overheden kijkt, zijn er limieten die beperkt worden door wat mensen met uitvoerende taken kunnen doen", schetst Amodei. "Maar als de uitvoerende kracht niet meer menselijk is, kunnen er erg donkere scenario's ontstaan."
Volgens Amodei spelen dit soort risico's in Rusland en China. Het is volgens hem daarom zaak dat de VS op minimaal hetzelfde niveau blijft opereren als deze landen wat betreft AI. Hij zet zich in om liberale overheden genoeg technologische voorsprong en macht te geven om het misbruik van macht te voorkomen en gevaren voor de nationale veiligheid tegen te gaan.
Hoe kunnen die risico's beperkt worden zonder impact te hebbenop de voordelen van AI? Naast het implementeren van veiligheidseisen bij de ontwikkeling van de systemen en het aanmoedigen van toezicht door een overheidsinstanties, heeft Amodei geen echte antwoorden. Toch gelooft hij dat het mogelijk is.
"Je kunt beide hebben. Er zijn altijd manieren om chirurgisch en voorzichtig risico's aan te pakken zonder de vooruitgang van de voordelen in de weg te zitten", zegt hij. "Maar ze vereisen wel een subtiele aanpak en een complex gesprek."