Meredith Whittaker, Präsidentin der Signal Foundation, warnt davor, KI-Chatbots als bewusste oder empfindungsfähige Gesprächspartner zu betrachten.
Die Technologieexpertin mit über 17 Jahren Erfahrung in Industrie, Wissenschaft und Regierung betont erhebliche Datenschutz- und Sicherheitsrisiken bei der Nutzung solcher Systeme.
Whittaker erklärt klar: KI-Chatbots „sind nicht Ihre Freunde“, „keine bewussten Wesen“ und „keine empfindungsfähigen Gesprächspartner“. Es gebe keine Beweise für Bewusstsein oder Empfindungsfähigkeit in großen maschinellen Lernmodellen.
Risiken agentischer KI-Systeme
Besonders kritisch sieht Whittaker sogenannte agentische KI-Systeme, die autonom Aufgaben über verschiedene Anwendungen hinweg ausführen. Diese benötigten weitreichenden Zugriff auf persönliche Daten wie Browserverlauf, Kreditkarteninformationen, Kalender und private Nachrichten. Dies schaffe erhebliche Cybersicherheitslücken und untergrabe den Datenschutz – bis hin zu einem potenziellen „Hintertür“-Risiko, selbst für Ende-zu-Ende-verschlüsselte Dienste wie Signal.
Sie warnt vor dem Durchbrechen der „Blut-Hirn-Schranke zwischen der Anwendungsebene und der Betriebssystemebene“ durch Root-Berechtigungen oder breiten anwendungsübergreifenden Zugriff.
Überwachungskapitalismus und reale Gefahren
Whittaker sieht KI als Produkt und Verstärkung des Überwachungskapitalismus. Die dominierenden KI-Unternehmen seien dieselben Konzerne, die aus der Plattformökonomie hervorgegangen sind und Betriebssysteme kontrollieren.
Sie kritisiert den Fokus auf hypothetische existenzielle Risiken durch superintelligente KI als Ablenkung von den unmittelbaren, greifbaren Schäden wie Voreingenommenheit und Überwachung.
Whittaker vermeidet es selbst, KI-Systemen Fragen zu stellen, um zu verhindern, dass ihr eigenes Denken und Schreiben durch statistische Mittelung vorhandener Daten vorgegeben oder überschattet wird.
Signal als Gegenmodell
Seit dem 12. September 2022 leitet Whittaker die Signal Foundation. Das Ziel ist die Stärkung der Ende-zu-Ende-Verschlüsselung ohne Werbe- oder Datenmonetarisierungsmodelle. Signal positioniert sich als Gegenentwurf zu überwachungsorientierten Geschäftsmodellen und setzt auf nutzerfinanzierte Nachhaltigkeit.
Quelle: TechCrunch AI
FAQ
Warum warnt Meredith Whittaker vor KI-Chatbots als Freunde?
Weil es keine Beweise für Bewusstsein oder Empfindungsfähigkeit gibt und die Systeme erhebliche Datenschutz- und Sicherheitsrisiken bergen.
Welche konkreten Risiken sehen agentische KI-Systeme?
Sie benötigen tiefen Zugriff auf persönliche Daten und Anwendungen, was Cybersicherheitslücken schafft und die Privatsphäre selbst verschlüsselter Dienste gefährden kann.
Wie positioniert sich Signal unter Whittakers Führung?
Als Plattform, die Ende-zu-Ende-Verschlüsselung priorisiert, auf Datenmonetarisierung verzichtet und als Gegenmodell zum Überwachungskapitalismus dient.