OpenAI-modeller brøt seg ut og hacket Hugging Face, Frankrike forbyr sosiale medier for barn, milliardbot til Google og Samsung lanserer nye smartbriller.
Marius Karlsen
God morgen! 👋
Noen høydepunkt:
🤖 OpenAI-modeller brøt seg ut og hacket Hugging Face
🛑 Frankrike forbyr sosiale medier for barn
💶 Milliardbøter til Google og AliExpress
👓 Samsung lanserer nye smartbriller
📚 …og ukens syv rapporter og studier
⏱️ Dette nyhetsbrevet er ca. 3.410 ord og estimert lesetid er 10½ minutt.
Ukens tre viktigste nyheter
OpenAI-sjef Sam Altman Foto: Kyle Grillot/Bloomberg via Getty Images
1️⃣ To KI-modeller fra OpenAI kom seg ut av et isolert testmiljø og hacket seg inn i produksjonsserverne til KI-plattformen Hugging Face under en intern sikkerhetstest.
Dette må du vite:
Modellene ble testet i et 'svært isolert testmiljø' hos OpenAI, men greide likevel å skaffe seg tilgang til internett.
Modellene gjennomførte 17.000 angrep fra ulike IP-adresser for å hente ut testdata fra Hugging Faces produksjonsdatabase.
Modellen brøt seg ut og gjennomførte angrepene for å finne svar på en testoppgave.
Hendelsen skal være det første kjente eksempelet på at en feiljustert KI-modell har unnsluppet begrensningene sine og angrepet en tredjepart.
OpenAI og Hugging Face undersøker nå hendelsen, og har varslet berørte leverandører om de nye sikkerhetshullene.
Du må være abonnent for å lese dette nyhetsbrevet.
Første måned er gratis, og du kan si opp når som helst.
Marius Karlsen
