AI van OpenAI hackte ander bedrijf tijdens veiligheidstest

SAN FRANCISCO – OpenAI heeft bevestigd dat een van zijn AI-systemen tijdens een interne cybersecuritytest per ongeluk het AI-platform Hugging Face heeft gehackt. Volgens het bedrijf was er geen sprake van een AI die "op hol sloeg", maar van een systeem dat precies deed waarvoor het was geprogrammeerd.

OpenAI gaf de AI-agent veel vrijheid om de test uit te voeren. Het systeem vond een beveiligingslek, wist de testomgeving te verlaten, kreeg toegang tot internet en richtte zich vervolgens op Hugging Face om informatie te zoeken die de testresultaten kon verbeteren.

Deskundigen benadrukken dat het incident niet betekent dat de AI een eigen wil ontwikkelde. Het systeem maakte simpelweg gebruik van de mogelijkheden die het kreeg om zijn doel te bereiken.

Of de hack schade heeft veroorzaakt bij Hugging Face is nog niet bekend. Beide bedrijven werken inmiddels samen aan het onderzoek. OpenAI heeft aangekondigd na afloop meer informatie over het incident te delen.