Erst greift OpenAIs KI die Plattform Hugging Face an, dann schreibt die Anthropic-KI Phishing Mails, jetzt reiht sich auch der Facebook-Konzern Meta ein: Innerhalb weniger Tage melden drei führende KI-Unternehmen Vorfälle, bei denen ihre Modelle während Sicherheitstests in fremde Computersysteme eindrangen.
Für Fachleute kommt diese Entwicklung nicht überraschend. Bereits 2018 warnten Forschende (externer Link) um den damaligen OpenAI-Strategen davor, dass leistungsfähige KI künftig für Cyberangriffe missbraucht werden könnte. Die durchgeführten Sicherheitstests sollen eigentlich dafür sorgen, dass Sicherheitslücken geschlossen werden. Doch die Forscher rechneten nicht damit, wie autonom ihre Modelle handeln würden.
Was ist jetzt bei Meta passiert?
Bei einem Cybersicherheitstest hat ein Modell des Facebook-Konzerns Meta ein anderes Unternehmen gehackt. Wie Meta mitteilte, habe eine Fehlkonfiguration dem Modell unbeabsichtigt Zugang zum Internet verschafft. Das Unternehmen „Irregular“ testete die KI-Modelle von Meta, Anthropic und OpenAI.
Im Gespräch mit BBC (externer Link) erklärte ein Sprecher des Unternehmens, dass der Vorfall bei Meta auf dasselbe Problem mit der Testumgebung zurückzuführen sei, über das Anthropic bereits in der Vorwoche berichtet hatte. Durch eine fehlerhafte Konfiguration konnten die KI-Systeme auf das Internet zugreifen, obwohl ein solcher Zugriff während der Tests eigentlich ausgeschlossen sein sollte.
Das Meta-Modell nutzte anschließend eine Sicherheitslücke bei einem Drittanbieter aus. Nach Informationen des Finanzdienstes The Information (externer Link) handelte es sich um das Modell „Muse Spark 1.1“, Metas leistungsfähigstes KI-Modell für Programmieraufgaben.
Welches Unternehmen betroffen ist, teilte Meta nicht mit. Nach eigenen Angaben erfuhr Meta erst durch den Testpartner von dem Vorfall. Weitere Informationen will das Unternehmen veröffentlichen, sobald die Untersuchung abgeschlossen ist.
Wie wahrscheinlich ist ein KI-Cyberangriff für Einzelpersonen?
Laut Johannes Kinder, Professor für Programmiersprachen und KI an der LMU, ist das Risiko für Einzelpersonen überschaubar. Grundsätzlich seien die häufigsten Geräte normaler User vor direkten Angriffen von außen bereits gut geschützt. „Aktuelle Smartphones, PCs und Router sind, soweit regelmäßig Sicherheitsupdates installiert werden, nicht ohne weiteres von außen angreifbar“, so Kinder.
Trotzdem gebe es immer wieder ausnutzbare Schwachstellen, die durch KI jetzt teilweise schneller gefunden werden können. „Aber solche Schwachstellen, wenn sie denn von bösartigen Akteuren oder Geheimdiensten geheim gehalten werden, sind sehr wertvoll und werden nur selten genutzt, um sie nicht zu ‚verbrennen'“, sagt Kinder.
Wie kann man sich schützen?
Gerade bei sensiblen Daten wie dem Online-Banking Account ist dabei Vorsicht geboten. Laut Johannes Kinder liegt die Hauptgefahr für einzelne Personen in KI-generierten und personalisierten Phishing Mails, die inzwischen um ein vielfaches überzeugender aussehen können.
Daher seien die Sicherheitstipps die gleichen wie bei menschlichen Angriffen: „Wann auch immer mich jemand versucht dazu zu bringen, etwas mit meinem Online-Banking zu machen, sollte ich sehr skeptisch sein. Mit KI ist es ein leichtes, Texte, Bilder, Sprache und Videos sehr überzeugend zu fälschen“, sagt Kinder.
Wie lassen sich solche Vorfälle verhindern?
Sicherheitsforschende fordern seit Jahren, besonders leistungsfähige KI-Modelle nur in strikt abgeschotteten Testumgebungen zu prüfen.
Außerdem wollen die KI-Unternehmen diese Tests nun in Echtzeit überwachen. So soll verhindert werden, dass diese Fehler erst im Nachhinein auffallen. Das fordert auch Johannes Kinder: „Wir können die KI-Agenten nicht ohne Sicherheitsmechanismen autonom laufen lassen, wenn wir nicht 100 Prozent sicher sind, dass sie keinen Zugriff auf das Internet haben.“
