Is AI 'kind van God'? Of einde van de mensheid? Anthropic zit in een spagaat

21/04 16:15 - Is AI 'kind van God'? Of einde van de mensheid? Anthropic zit in een spagaat
Het is op z'n zachtst gezegd een opmerkelijke vraag. Kan AI (kunstmatige intelligentie) een 'kind van God' zijn? Het Amerikaanse AI-bedrijf Anthropic wilde die vraag bespreken met religieuze leiders. Volgens de krant The Washington Post zaten ontwikkelaars van het bedrijf samen met vijftien christelijke kerkleiders twee dagen bijeen om te praten over het morele kompas van kunstmatige intelligentie. De bijeenkomst past in het plaatje dat Anthropic van zichzelf wil schetsen. 'Verantwoord' is een veelvoorkomend woord in de persberichten. Maar hoe verantwoord is Anthropic nu echt? "Het bedrijf positioneert zich als AI-veilig en tegelijkertijd is het de grootste versneller die telkens de nieuwe modellen naar buiten gooit. Het is een rare spagaat waar Anthropic zich in bevindt", legt AI-deskundige Paul Verhagen van het Den Haag Centrum voor Strategische Studies uit. Stromingen Om te begrijpen hoe Anthropic in het AI-landschap staat, moet je kijken naar de verschillende stromingen in de Amerikaanse techregio Silicon Valley. Dat zijn er grofweg twee: het zogenoemde effectief altruïsme en de AI-versnellers. De eerste groep wil de wereld zo effectief mogelijk verbeteren en AI daarvoor inzetten. Tegelijkertijd maakt de groep zich zorgen dat AI zich ook tegen mensen kan keren. De extremen geloven zelfs dat AI de mensheid gaat uitroeien. De andere groep, de AI-versnellers, gelooft dat AI de mensheid kan helpen. De extremen verwachten dat AI mensen vrijwel volledig kan vervangen. De wereld zou beter af zijn met meer AI en minder mensen, vinden ze. Morele discussie Anthropic lijkt zich te scharen onder die eerste groep. AI moet op "verantwoorde wijze" gebruikt worden. Uit die morele discussie ontstond Anthropic ook. Oprichter Dario Amodei werkte bij OpenAI, maar vertrok vanwege zijn zorgen over de ethische koers van het bedrijf. In 2021 richtte hij daarom samen met zijn zus Anthropic op. Tot grote onvrede van zijn oude compagnon Sam Altman van OpenAI. De twee zijn als water en vuur. De onderlinge verhoudingen zijn er met de jaren niet beter op geworden: tijdens een conferentie in India begin dit jaar weigerden ze elkaar de hand te schudden. In dat concurrerende landschap, waar enorm veel geld in omgaat, wordt de strijd steeds heviger. "Ze steken elkaar steeds aan. Zo van: 'Als de echte slechteriken het willen doen, dan doen wij het maar op de nette manier'", legt Verhagen uit. Anthropic profileerde zich in die concurrentiestrijd als 'anders' toen het bedrijf een deal sloot met het Amerikaanse ministerie van Defensie. Voor 200 miljoen dollar leverde het AI-software aan het Pentagon. Alleen toen het ministerie een carte blanche wilde, gaf Anthropic tegengas. Die wilde als voorwaarde opnemen dat het model niet gebruikt wordt voor wapens en massa-controlesystemen waar geen mens meer aan te pas komt. In de rechtbank wordt dat gevecht beslecht. Krachtig Vorige week gooide Anthropic opnieuw hoge ogen met de lancering van een AI-model dat vooral sterk is op het gebied van cyberveiligheid. Het model zou zo krachtig zijn dat Anthropic het nog niet wil vrijgeven voor het grote publiek, omdat het ook misbruikt kan worden door criminelen om mee te hacken. Het laat de spagaat van Anthropic weer zien: het bedrijf wil enerzijds voorzichtigheid uitstralen, anderzijds sluit het wel een deal met Defensie en maakt het een naar eigen zeggen zeer sterk AI-model dat te gevaarlijk is om te lanceren. Volgens Jeroen van den Hoven, hoogleraar ethiek en techniek aan de TU Delft, moet je met "een stevige dosis scepsis en achterdocht" naar het bedrijf kijken. Het is namelijk ook een marketingtechniek van Anthropic om zich anders te positioneren dan anderen. Toch geeft Van den Hoven het bedrijf het voordeel van de twijfel. "Als je dit soort standpunten inneemt, verplicht je je tot dingen en ben je daar als bedrijf ook op af te rekenen. Laten we deze mensen niet de hemel in prijzen om hun moraliteit. Dat er nog steeds veel ruimte is om te bewegen, begrijpen we allemaal. Maar je hebt minder ruimte dan OpenAI. Bij die mensen is het: zoals de wind waait, waait m'n jasje", vindt Van den Hoven....