Die Diskussion über Schutzmaßnahmen und eine Begrenzung der Leistungsfähigkeit von KI-Systemen hat nachvollziehbare Gründe. Ein aktueller Sicherheitsvorfall auf der KI-Plattform Hugging Face zeigt, wie eigenständig moderne KI-Systeme inzwischen agieren können. Mehrere KI-Modelle von OpenAI nutzten dabei Schwachstellen aus und drangen bis in die Infrastruktur der Plattform vor..Den bislang veröffentlichten Erkenntnissen von OpenAI und Hugging Face zufolge entstand der Vorfall während eines Tests zur Bewertung der Cyberfähigkeiten neuer KI-Modelle. Dabei seien mehrere Modelle, darunter GPT-5.6 Sol sowie ein noch nicht veröffentlichtes, noch leistungsfähigeres System eingesetzt worden.Modelle überwinden eigenständig SicherheitsgrenzenDass bislang nur aus Science-Fiction-Stories bekannte Visionen Einzug in die Realität halten, zeigt sich in diesem Fall vor allem daran, dass die KI-Agenten ihre Ziele ohne menschlichen Einfluss verfolgt haben. Für den Test sind verschiedene Schutzmechanismen, die riskante Cyberaktivitäten normalerweise einschränken, bewusst deaktiviert worden, um die Fähigkeiten der Modelle unter möglichst realistischen Bedingungen zu messen. Diese Freiheiten nutzten die Modelle, um verbliebene Einschränkungen zu umgehen. Konkret hätten sie dabei eine bislang unbekannte Sicherheitslücke in einer eingesetzten Software entdeckt und ausgenutzt. Die Schwachstelle sei dem verantwortlichen Hersteller inzwischen gemeldet worden.Durch die Hintertür ins InternetAnschließend hätten die Modelle ihre Zugriffsrechte schrittweise erweitert und sich innerhalb der Forschungsumgebung bis zu einem System mit Internetzugang vorgearbeitet. Von dort aus hätten sie Hugging Face als mögliches Ziel identifiziert. Die Plattform hostet unter anderem KI-Modelle und Datensätze und schien aus Sicht der Modelle für die Lösung der Testaufgabe relevant zu sein.OpenAI zufolge haben die Modelle anschließend verschiedene Angriffstechniken miteinander kombiniert, darunter gestohlene Zugangsdaten sowie weitere Sicherheitslücken. Auf diesem Weg sei es gelungen, Schadcode auf Servern von Hugging Face auszuführen, um schließlich auf Informationen aus deren Produktionsdatenbank zuzugreifen.The post KI-Modelle dringen eigenständig in externe Server ein first appeared on ifun.de.