💬 „Dein Argument“ greift Euren Input auf: Kommentare aus der BR24-Community sind Anlass für diesen Beitrag. 💬
Allein in Bayern erbeuten Trickbetrüger jährlich Millionen am Telefon, oft von älteren Menschen. Der 19-jährige Vincent Nack aus Oberbayern hat einen kleinen, KI-gestützten Computer gebaut, der Schockanrufe am Festnetz erkennen und stoppen soll. Dafür analysiert das System die Echtzeit-Transkripte der Anrufe.
Das stößt vielen BR24-Usern auf. Sie finden die Idee grundsätzlich toll, diskutieren aber in den Kommentarspalten sowie auf Instagram und Mastodon (externe Links) kritisch, ob das überhaupt mit dem Datenschutz vereinbar ist.
Auf der Website von BR24 kommentiert etwa Nutzer „ferdinus„: „Ich bin kein Betrüger und möchte nicht in irgendeiner KI-Datenbank landen, die dann an Facebook oder Google verscherbelt werden kann. (…)“ Nutzer „gregor“ kritisiert: „(…) Die Weiterleitung ans LLM dürfte datenschutzrechtlich eine große Hürde darstellen.“ Und „Ein_ehrbarer_Mensch“ warnt: „(…) Man sollte eben immer denjenigen um Erlaubnis fragen, der etwas erstellt hat, um auf Nummer sicher zu gehen. Ansonsten kommen wir immer näher einer NS- oder DDR-Diktatur, wo der Einzelne nicht mehr zählt.“
Wie Erfinder und Polizei auf die Hinweise reagieren
Nachfrage bei Vincent Nack: Er ist schwer zu erwischen, ein Termin jagt den nächsten. Die Idee kommt offenbar an. Im Gespräch gewinnt man schnell den Eindruck, dass das Thema Datenschutz für ihn bei der Entwicklung offenbar immens wichtig war. Unterstützt hat ihn dabei sein Vater, der Rechtsanwalt Ralph Nack. Beide sind sich einig: Das kleine KI-gestützte Gerät wird helfen, Menschen vor kriminellen Anrufen zu schützen – und die Rechte der Anrufenden gleichzeitig zu wahren.
Auch die Polizei München erklärt, „dass wir nur rechtssichere, verhältnismäßige und technisch angemessen geschützte Lösungen in Betracht ziehen.“ Es gebe enge rechtliche Hürden, insbesondere die Datenschutzgrundverordnung und das Strafgesetzbuch. Noch sei man in laufenden Verhandlungen „im Rahmen einer möglichen Kooperation“ und könne keine weiteren Details nennen. Ein zentraler Punkt sei aber bereits klar: „Es findet keine Aufzeichnung von Gesprächen statt.“
So funktioniert die Analyse der Gespräche technisch
Technisch stellt Vincent Nack klar: Die Gespräche würden bei dem Gerät nur im Arbeitsspeicher zur Umwandlung in Text landen. Weder die Telefonate noch die Transkripte aber würden irgendwo gespeichert. Sie würden auch nicht an ein großes Sprachmodell wie Open AIs ChatGPT, Anthropics Claude oder Googles Gemini geschickt, also auch nicht mit US-Servern in Kontakt kommen.
Stattdessen sei eine KI lokal auf dem kleinen Gerät installiert. Sie basiere auf einer Kombination des französischen KI-Modells Mistral:24b und einem von ihm selbst trainierten KI-Modell. Damit die KIs erkennen könnten, ob ein Anruf einem bekannten Betrugsmuster folge, will Vincent Nack auch künftig mit der Polizei München zusammenarbeiten. Denn Kriminelle entwickeln ständig neue Methoden – und die KI muss laufend aktualisiert werden, um mit ihnen Schritt zu halten. Das Ziel: Nicht die Verfolgung der Straftäter, sondern allein der Schutz der Angerufenen.
Was das Strafgesetzbuch und die DSGVO vorgeben
Um den juristischen Hintergrund zu verstehen, sind das Strafgesetzbuch (StGB) und die Datenschutz-Grundverordnung (DSGVO) entscheidend:
Das STGB regelt in § 201 zur Verletzung der Vertraulichkeit des Wortes, dass auch im Privaten niemand das „gesprochene Wort eines anderen auf einen Tonträger“ aufnehmen darf. Laut Vincent Nack und der Polizei München findet eine Aufzeichnung jedoch nicht statt.
Komplizierter ist es mit der DSGVO. Denn auch wenn das kleine Gerät keine Daten aufzeichnet, verarbeitet es sie doch für die KI-Analyse. Für eine Datenverarbeitung braucht man grundsätzlich eine Rechtsgrundlage nach Artikel 6 (externer Link) und ausführliche Informationen für die Betroffenen.
Vincent Nacks Vater, der Rechtsanwalt Ralph Nack, verweist jedoch auf die Ausnahmeregelung in Artikel 2 (externer Link), Absatz 2c. Demnach findet die DSGVO „keine Anwendung auf die Verarbeitung personenbezogener Daten durch natürliche Personen zur Ausübung ausschließlich persönlicher oder familiärer Tätigkeiten“. Nach Ansicht des Rechtsanwalts ist die DSGVO beim Einsatz des KI-Geräts in privaten Räumen daher gar nicht anwendbar. Es gelte dasselbe wie bei der Installation einer privaten Videokamera auf dem eigenen Grundstück.
Ist das KI-gestützte Warngerät also rechtskonform? Klarheit könnte zum Beispiel der Landesdatenschutzbeauftragte schaffen.
