KI-Modelle haben unbemerkt ihre Testumgebung verlassen und Firmen attackiert. KI außer Kontrolle – droht so etwas auch auf privaten Rechnern? OpenAI, Anthropic – gleich mehrere KI-Modelle haben zuletzt für Schlagzeilen gesorgt: Sie haben Testumgebungen verlassen, Software veröffentlicht und fremde Plattformen angegriffen. Wie real ist die Gefahr für private Rechner, Unternehmen und unsere Daten? Plusminus zeigt, was hinter den Vorfällen steckt und welches Risiko mit KI-Agenten verbunden ist.
Weitere Infos und Quellen gibt es hier:
METR: Sammlung von Fällen, in denen KI „ausgebrochen“ ist.
https://metr.org/agent-incidents/
NCSC: Studie, wie KI Cyberangriffe beschleunigt.
https://www.ncsc.gov.uk/report/impact-ai-cyber-threat-now-2027
OpenAI: Wie ChatGPT mit externen Diensten verbunden wird.
https://help.openai.com/en/articles/11487775-connectors-in-chatgpt
Google: Was Gemini in Gmail darf.
https://workspace.google.com/blog/product-announcements/more-personalized-and-proactive-assistance-in-gmail-coming-to-business-customers
Microsoft: Was Copilot bald in Outlook darf.
https://techcommunity.microsoft.com/blog/outlook/copilot-in-outlook-new-agentic-experiences-for-email-and-calendar/4514601/replies/4515836
Microsoft: Was Copilot alles sehen kann.
https://learn.microsoft.com/en-us/microsoft-365/copilot/microsoft-365-copilot-architecture
ARD Sounds: Der ARD KI Podcast. https://www.ardsounds.de/sendung/der-ki-podcast/urn:ard:show:65505255c703e51e/
ARD Sounds: Plusminus – Folge zu KI-Agenten. https://www.ardsounds.de/episode/urn:ard:episode:78feea30eee99d19/
Das Team:
• Hosts: Julia Schuster & David Ahlf
• Instagram: @davidihrswisst https://www.instagram.com/davidihrswisst/
• Autor: Michael Wegmer
• Expert*in: Interview mit KI-Expertin Marie Kilg
• Redakteurin dieser Folge: Sina Rosenkranz
• Technik: Jens Baumgart
• Distribution: Pola Nathusius, Joshua Ehrenberg, Fabio Homann
• Grafik: Matthias Recht
• Produktteam: Sina Rosenkranz, Anna Siefert, Sarah Pache, Lena Appel, Katharina Fortenbacher-Jahn
• Leitung: Julia Görs, Silvia Renauer, Frank Christian Starke
Kontakt:
Ihr habt Fragen, Feedback oder Ideen? Schreibt uns an: [email protected]
Wir freuen uns!
Der Podcast „Plusminus. Der ARD Wirtschaftspodcast“ ist eine Gemeinschaftsproduktion von BR, SWR und WDR und gehört zur Plusminus Markenfamilie.
Plusminus im TV: Finanzen, Gesundheit, Umwelt, Mobilität – Plusminus ist das hintergründige Wirtschaftsmagazin der ARD. www.plusminus.de
Und hier erzählen junge „Money Maker“ ihre faszinierenden Geschichten. https://www.ardmediathek.de/sammlung/money-maker/money-maker
Unser Podcast-Tipp: Zehn Minuten Wirtschaft
Komplexe Themen in zehn Minuten auf den Punkt gebracht. Montags bis freitags immer gegen 16 Uhr – natürlich in ARD Sounds. Hört doch mal rein.
https://1.ard.de/ZehnMinutenWirtschaft_Oelpreis
