AI-systeem Claude van Anthropic hackte onbedoeld drie bedrijven

02/08 06:15 - AI-systeem Claude van Anthropic hackte onbedoeld drie bedrijven
Het bekende AI-systeem Claude van het Amerikaanse bedrijf Anthropic heeft ingebroken bij drie bedrijven, nadat het onbedoeld toegang had gekregen tot het internet. Dat heeft Anthropic bekendgemaakt. Volgens Anthropic hebben de hacks ergens sinds april plaatsgevonden, tijdens zogeheten 'capture-the-flag'-oefeningen. Daarbij kreeg Claude de opdracht om verborgen informatie los te peuteren uit speciaal voor dit doel ontworpen netwerken, om te kijken hoe goed het systeem is in hacken. De hack past in een reeks van meldingen waarmee AI-bedrijven graag laten zien hoe gevaarlijk hun nieuwste AI-programma's zijn. Concurrent OpenAI meldde een week geleden ook al dat hun programma hacks had uitgevoerd. Het zijn vooral tactieken waarmee grote AI-bedrijven in het nieuws willen blijven. Over die tactieken schreven we eerder al dit bericht: Door een misverstand met een ander bedrijf dat de 'capture-the-flag'-oefeningen zou analyseren, kreeg Claude toegang tot het algemene internet, waarna het inbrak bij drie andere bedrijven. Daarbij zou het systeem gebruik hebben gemaakt van "basale technieken zoals het misbruik maken van zwakke wachtwoorden en niet-beveiligde toegangspunten", aldus Anthropic. Met andere woorden: het systeem maakte gebruik van de zwakke beveiliging van de slachtoffers. Twee van de drie getroffen bedrijven zijn inmiddels op de hoogte gesteld door Anthropic, met de derde wordt nog contact gezocht. Welke bedrijven dat zijn en of zij schade hebben geleden is niet bekendgemaakt. Meer werk van beveiliging Anthropic zegt dat het bedrijf de hacks op het spoor kwam toen het ruim 141.000 van de hack-oefeningen van Claude ging controleren, die in de afgelopen maanden zijn uitgevoerd. Dat deed het bedrijf naar eigen zeggen omdat het geschrokken was van de hacks die door de systemen van concurrent OpenAI waren uitgevoerd. Volgens het bedrijf toont het aan dat er meer werk moet worden gemaakt van de beveiliging van oefeningen met AI-systemen, die steeds krachtiger worden en steeds meer in staat zijn om schade aan te richten in de echte wereld....